Галлюцинации остаются главной проблемой ИИ, несмотря на технологический прогресс

Галлюцинации остаются ключевой проблемой искусственного интеллекта

Несмотря на значительный прогресс в развитии искусственного интеллекта, проблема «галлюцинаций» — случаев, когда ИИ уверенно предоставляет ложную или несоответствующую действительности информацию — остается актуальной. Такие ошибки могут иметь серьезные последствия в различных сферах, включая юриспруденцию, экологию и журналистику.

Причины возникновения галлюцинаций

Галлюцинации возникают из-за особенностей функционирования языковых моделей. ИИ предсказывает следующее слово на основе предыдущих, не обладая пониманием истины. Это может приводить к созданию правдоподобных, но неверных утверждений.

Примеры последствий

• В мае 2025 года юридическая фирма Butler Snow предоставила в суд документы с вымышленными цитатами, сгенерированными ChatGPT.
• Чат-бот Grok от компании Илона Маска затронул тему «геноцида белых» в Южной Африке без соответствующего запроса, что вызвало общественное недовольство.
• Британское Министерство окружающей среды опубликовало карту торфяников, созданную с помощью ИИ, которая ошибочно классифицировала каменистые участки и леса как торфяники.
• Газеты Chicago Sun-Times и Philadelphia Inquirer включили в летний список для чтения вымышленные названия книг и цитаты несуществующих экспертов, сгенерированные ИИ.
• В марте 2025 года ChatGPT сгенерировал ложную информацию о норвежском пользователе, утверждая, что он убил своих детей, что привело к жалобе в соответствии с GDPR.

Мнения экспертов

Генеральный директор Anthropic Дарио Амодеи считает, что галлюцинации ИИ не являются серьезным препятствием на пути к созданию общего искусственного интеллекта (AGI). Он отметил, что ИИ-модели, вероятно, галлюцинируют меньше людей, хотя и более удивительными способами.

Проблема галлюцинаций в ИИ подчеркивает необходимость разработки механизмов верификации информации и повышения прозрачности работы моделей. Это особенно важно в контексте растущего использования ИИ в критически важных областях.