Технологии

Искусственный интеллект научился определять фейки, созданные другим искусственным интеллектом

Недавно разработчики компании Open AI создали искусственный интеллект, который умеет генерировать тексты, почти неотличимые от человеческих. Этот алгоритм показывает, насколько легко можно использовать машинный копирайтинг для создания фейковых новостей или множества комментариев. Учёные из лаборатории IBM-Watson Массачусетского технологического института, в свою очередь, представили ИИ, который умеет определять тексты, написанные другим ИИ.

Инструмент называется Giant Language Model Test Room (GLTR), он тестирует тексты на предсказуемость. Программа не полагается на знание языка, она ищет закономерности в структуре предложений. Любой ИИ создаёт тексты на основе алгоритма. Фактически GLTR определяет этот алгоритм и показывает, что человек не мог структурировать текст таким образом. 

Алгоритм подсвечивает самые предсказуемые слова зелёным, менее предсказуемые — жёлтым и красным, непредсказуемые — фиолетовым.

Новый инструмент искусственного интеллекта может помочь нам бороться с искусственными новостями и обзорами, написанными искусственным интеллектом

Источник: BM-Watson AI Lab MIT

Разработчики протестировали алгоритм с помощью студентов Гарвардского университета. Их попросили определить, какие тексты написаны машиной. Самостоятельно студенты находили примерно половину текстов, а при помощи GLMTR было верно определено 72%.

Алгоритм можно протестировать самостоятельно. Научная работа с подробным описанием метода опубликована в журнале Computer Science.

0 комментариев

Написать комментарий