Новости

Галлюцинации остаются главной проблемой ИИ, несмотря на технологический прогресс

Галлюцинации остаются ключевой проблемой искусственного интеллекта

Несмотря на значительный прогресс в развитии искусственного интеллекта, проблема «галлюцинаций» — случаев, когда ИИ уверенно предоставляет ложную или несоответствующую действительности информацию — остается актуальной. Такие ошибки могут иметь серьезные последствия в различных сферах, включая юриспруденцию, экологию и журналистику.

Причины возникновения галлюцинаций

Галлюцинации возникают из-за особенностей функционирования языковых моделей. ИИ предсказывает следующее слово на основе предыдущих, не обладая пониманием истины. Это может приводить к созданию правдоподобных, но неверных утверждений.

Примеры последствий

  • В мае 2025 года юридическая фирма Butler Snow предоставила в суд документы с вымышленными цитатами, сгенерированными ChatGPT.
  • Чат-бот Grok от компании Илона Маска затронул тему «геноцида белых» в Южной Африке без соответствующего запроса, что вызвало общественное недовольство.
  • Британское Министерство окружающей среды опубликовало карту торфяников, созданную с помощью ИИ, которая ошибочно классифицировала каменистые участки и леса как торфяники.
  • Газеты Chicago Sun-Times и Philadelphia Inquirer включили в летний список для чтения вымышленные названия книг и цитаты несуществующих экспертов, сгенерированные ИИ.
  • В марте 2025 года ChatGPT сгенерировал ложную информацию о норвежском пользователе, утверждая, что он убил своих детей, что привело к жалобе в соответствии с GDPR.

Мнения экспертов

Генеральный директор Anthropic Дарио Амодеи считает, что галлюцинации ИИ не являются серьезным препятствием на пути к созданию общего искусственного интеллекта (AGI). Он отметил, что ИИ-модели, вероятно, галлюцинируют меньше людей, хотя и более удивительными способами.

Проблема галлюцинаций в ИИ подчеркивает необходимость разработки механизмов верификации информации и повышения прозрачности работы моделей. Это особенно важно в контексте растущего использования ИИ в критически важных областях.

Яковенко Илья

Recent Posts

SRBMiner-MULTI 3.8.6: обновления Pearlhash и Quantus

SRBMiner-MULTI 3.8.6 улучшает Pearlhash для NVIDIA 3000, 4000 и 5000, а Quantus — для NVIDIA…

2 недели ago

SRBMiner 3.8.3: обновление настройки мощности и исправление Pearlhash

SRBMiner 3.8.3 улучшает настройку энергопотребления, работу Quantus на NVIDIA и устраняет колебания Pearlhash. Условия работы…

3 недели ago

LuxOS для Antminer Z15 Pro: майнинг Zcash и проверка прошивки

Luxor анонсировала LuxOS для Zcash-майнера Antminer Z15 Pro. Что известно о запуске 1 октября, разгоне…

2 месяца ago

Bitcoin-майнинг в 2026 году: почему крупные майнеры переходят на AI

Bitcoin-майнинг в 2026 году переживает серьезные изменения. Крупнейшие публичные майнинговые компании всё чаще рассматривают свои…

2 месяца ago

EasyMiner — скачать и настроить для Windows

Скачать EasyMiner для Windows. Возможности программы, установка, настройка пула и запуск CPU- или GPU-майнинга через…

3 месяца ago

WhatsMiner Tool — скачать и настроить ASIC-майнеры

Скачать WhatsMiner Tool для Windows. Поиск ASIC MicroBT в сети, настройка пулов, API, обслуживание и…

3 месяца ago