Учёные заявили о рисках «очеловечивания» искусственного интеллекта

Американские исследователи предупредили: когда искусственный интеллект описывают как будто он «мыслящий» и «действующий» человек, это может привести к неверному пониманию его реальных возможностей.

В статье, опубликованной в журнале Technical Communication Quarterly, авторы обращают внимание на формулировки вроде «нейросеть решила» или «ChatGPT знает». По их мнению, такие обороты создают у аудитории ощущение наличия у системы намерений, эмоций и воли — хотя на практике алгоритмы работают за счёт статистики и заданных разработчиками правил, рассказывают «Новости мира инноваций».

В работе исследователи показали, как в текстах журналистов и в пользовательских сообщениях ИИ часто «очеловечивают» с помощью языковых конструкций, характерных для человеческой деятельности.

Авторы опирались на корпус News on the Web — массив из более чем 20 млрд слов из материалов англоязычных СМИ 20 стран. Они оценивали, как часто в связке с терминами «ИИ» и «ChatGPT» используются глаголы и выражения, обычно применяемые к людям: «знает», «интерпретирует», «нуждается».

Выяснилось, что в новостных публикациях такие «одушевляющие» выражения встречаются реже, чем в повседневной речи. Например, фраза «ИИ нуждается» упоминалась 661 раз, а «ChatGPT знает» — лишь 32 раза. При этом даже осторожные, косвенные формулировки всё равно способны менять восприятие технологий.

Отдельный акцент сделан на важности точных формулировок в сферах, где ошибка может дорого стоить: медицина, судебные процессы, кредитная область. В пример авторы приводят фразу вроде «нейросеть приняла решение об увольнении», отмечая, что окончательные решения остаются за людьми, а ИИ при этом даёт анализ и рекомендации.

Также учёные считают, что антропоморфные описания могут искажать отношение к ошибкам системы: сбои могут начать восприниматься как «злонамеренность», а уверенные ответы — как признак реальной надёжности. В итоге исследователи призывают использовать более строгую и корректную терминологию, особенно в технических документах и профессиональных коммуникациях.