ИИ-ассистенты, включая ChatGPT и Gemini, искажают новостной контент в 45% случаев

Наикрупнейшие ИИ-ассистенты, включая ChatGPT и Gemini, искажают новостной контент приблизительно в 45% случаев. О этом докладывает Reuters со ссылкой на исследование BBC и Евро вещательного альянс.

В процессе анализа было исследовано наиболее 3000 ответов чат-ботов на вопросцы, связанные с новостями, на 14 языках. В исследовании приняли роль 22 муниципальные медиакомпании из 18 государств, включая Францию, Германию, Испанию, Украину, Англию и США (Соединённые Штаты Америки — государство в Северной Америке).

Главные выводы исследования:

  • Задачи с точностью были обнаружены в 20% ответов всех исследованных ИИ-помощников, включая старую информацию.
  • В 45% случаев ИИ-ответы содержали по наименьшей мере одну значительную делему – от неточных формулировок до прямых фактических ошибок.
  • Около 72% ответов Gemini содержали суровые задачи с источником, у всех других ИИ-помощников этот показатель существенно меньше – наименее чем 25%.

К примеру, Gemini ошибочно интерпретировала конфигурации в законе о разовых вейпах, а ChatGPT неверно именовала папу римского Франциска работающим понтификом спустя несколько месяцев опосля его погибели.

Отметим, что OpenAI и Microsoft ранее признавали существование задачи «галлюцинаций», когда ИИ генерирует неверные либо вводящие в заблуждение сведения из-за неполных данных либо ошибок в обучении модели.

Напомним, ранее в этом месяце ВТБ вместе с учеными МГУ (Московский государственный университет имени М. В. Ломоносова) анонсировали разработку «этического цензора» для контроля свойства ответов ИИ-помощников. Новенькая система будет выявлять и систематизировать 10-ки видов ошибок – от фактических некорректностей до признаков токсичности и искажений.

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *