Генеративный искусственный интеллект, способный создавать человекоподобные отзывы, наталкивается на искусственный интеллект, обученный выявлять фальшивые отзывы. Такое столкновение имеет последствия как для потребителей, так и для будущего контента в Интернете.
Сауд Халифа, основатель и генеральный директор компании Fakespot — стартапа, использующего искусственный интеллект для выявления фальшивых отзывов, — говорит, что его компания столкнулась с наплывом фальшивых отзывов, созданных искусственным интеллектом. Fakespot работает над тем, чтобы выявлять контент, написанный ИИ-платформами, такими как ChatGPT.
«Сегодня очень важно то, что модели настолько хорошо осведомлены, что могут писать о чем угодно», — сказал он.
Фальшивые отзывы в Интернете существуют примерно столько же, сколько и настоящие, но эта проблема приобрела новую актуальность в связи с более широкой обеспокоенностью по поводу передовых технологий искусственного интеллекта, которые сегодня широко доступны в Интернете.
После нескольких лет борьбы с этой проблемой путем принятия индивидуальных мер Федеральная торговая комиссия США в прошлом месяце предложила новое правило для борьбы с фальшивыми отзывами. Если это правило будет утверждено, то оно запретит написание фальшивых отзывов, оплату за отзывы, сокрытие честных отзывов и другие обманные действия и будет предусматривать крупные штрафы для тех, кто его нарушает.
Однако в настоящее время не все ясно с тем, что является или не является фальшивым отзывом, а технология выявления фальшивых отзывов еще только разрабатывается.
«Мы не знаем, да и не можем знать, в какой степени недобросовестные субъекты действительно используют все эти инструменты, и сколько из них может быть сгенерировано ботами, а сколько — людьми», — сказал Майкл Атлесон, юрист Отдела рекламной практики.
Есть некоторые признаки того, что отзывы, созданные искусственным интеллектом, уже стали обычным явлением. В апреле телеканал CNBC сообщил, что некоторые отзывы на Amazon содержат явные признаки участия ИИ: многие из них начинаются с фразы «В качестве языковой модели ИИ…».
Amazon — один из многих онлайн-продавцов, который уже не первый год борется с фальшивыми отзывами. Представитель компании заявил, что компания еженедельно получает миллионы отзывов и что в 2022 году она заблаговременно заблокировала 200 млн предполагаемых фальшивых отзывов. Для выявления фальшивых отзывов компания использует комбинацию человеческого расследования и искусственного интеллекта, применяя модели машинного обучения, которые анализируют такие факторы, как история отзывов пользователя, его активность при входе в систему и связь с другими учетными записями.
Проблема осложняется еще и тем, что отзывы, сгенерированные искусственным интеллектом, не совсем противоречат правилам Amazon. Представитель Amazon заявил, что компания разрешает клиентам размещать отзывы, сгенерированные искусственным интеллектом, при условии, что они достоверны и не нарушают правил.
Гигант электронной коммерции также сообщил, что ему не помешает помощь. В июне Дхармеш Мехта, вице-президент Amazon по обслуживанию торговых партнеров по всему миру, в своем блоге призвал к более активному сотрудничеству «частного сектора, групп потребителей и правительств» для решения растущей проблемы фальшивых отзывов.
Важнейший вопрос заключается в том, сможет ли ИИ, обнаруживающий фальшивые отзывы, одолеть ИИ, создающий их. По словам Халифы, первые фальшивые отзывы, сгенерированные искусственным интеллектом и обнаруженные компанией Fakespot несколько месяцев назад, поступили из Индии, где они были созданы так называемыми «фермами фальшивых отзывов» — компаниями, которые массово продают фальшивые отзывы. Генеративный ИИ способен значительно облегчить их работу.
«Этим инструментам обнаружения, безусловно, трудно пройти тест», — говорит Бхуван Дхингра, доцент кафедры информатики Университета Дьюка. «Потому что если модели в точности соответствуют тому, как человек пишет что-то, то вы действительно не сможете отличить одно от другого. Я не ожидаю, что в ближайшее время какой-либо детектор пройдет этот тест с блеском».
В ряде исследований было установлено, что люди не очень хорошо распознают отзывы, написанные искусственным интеллектом. Многие технологи и компании работают над системами обнаружения контента, созданного искусственным интеллектом, а некоторые, например OpenAI, компания, создавшая ChatGPT, даже работает над созданием искусственного интеллекта для обнаружения собственного ИИ.
Бен Чжао, профессор информатики Чикагского университета, считает, что для ИИ «практически невозможно» справиться с задачей обнаружения отзывов, написанных искусственным интеллектом, поскольку отзывы, созданные ботами, часто неотличимы от человеческих.
«Это постоянная погоня, но в конечном итоге нет ничего фундаментального, что отличало бы созданный ИИ контент», — сказал он. «Можно найти системы, утверждающие, что они способны отличить текст, написанный человеком, от текста ChatGPT. Но все технологии, лежащие в их основе, довольно просты по сравнению с тем, что они пытаются догнать».
Учитывая, что 90% потребителей утверждают, что читают отзывы при совершении покупок в Интернете, такая перспектива вызывает беспокойство у некоторых защитников прав потребителей.
«Это пугает потребителей», — говорит Тереза Мюррей, возглавляющая офис по наблюдению за потребителями в Исследовательской группе общественных интересов США. «Уже сейчас искусственный интеллект помогает недобросовестным компаниям за считанные секунды выплевывать тысячи реальных отзывов с разговорным тоном».
