Алгоритм GPT-2 вызвал много шума в медийном пространстве сразу после его анонса. Еще в феврале появились сообщения о том, что занимающаяся исследованиями искусственного интеллекта компания OpenAI разработала алгоритм, который вызывает опасения общественности.
Дело в том, что генерируемый им текст настолько походит на написанный человеком, что люди не замечают подмены. Чтобы использовать этот алгоритм, пользователю достаточно набрать первые строчки документа, а затем позволить ИИ завершить текст. Дайте ему начало газетной истории, и он ее продолжит и даже придумает фиктивные цитаты. Как и ожидалось, СМИ пришли в ужас от этого нового и ужасающего лица фальшивых новостей. И на это есть причина.
Алгоритм представлен на веб-сайте под названием Talk to Transformer, который ведет инженер по машинному обучению Адам Кинг. «На данный момент OpenAI решил выпускать только небольшие и средние версии, они не согласованы, но все же дают интересные результаты», — пишет он на своем сайте.
На высоком уровне GPT-2 работает не так, как интеллектуальные мобильные клавиатуры, которые предугадывают ваше следующее слово. Как отмечает Кинг: «Хотя GPT-2 был подготовлен только для предсказания следующего слова в тексте, он неожиданно научился делать перевод и отвечать на вопросы. Но это не значит, что он будет оцениваться по таким задачам».
Результаты, честно говоря, несколько обескураживают. Несмотря на то, что он все еще склонен писать всякую чепуху, он не настолько глуп, как различные нейронные сети, используемые для генерации новых глав «Игры престолов».
Думать, что это Скайнет (вымышленный суперкомпьютер министерства обороны США) фальшивых новостей, вероятно, пока не стоит. Но имеющихся фактов достаточно для определенных опасений.
Комментарии
(0) Добавить комментарий