Новости ChatGPT сошёл с ума? ИИ от OpenAI пугает пользователей жуткими фразами и бессмысленными текстами

[NewsMaker]

Создатели сервиса пока не могут объяснить, что произошло с чат-ботом.

---

---

В последние часы пользователи ChatGPT Для просмотра ссылки Войди или Зарегистрируйся с необычной проблемой: сервис начал отвечать на запросы длинными и бессмысленными сообщениями, смешивая английский язык с испанским без видимой на то причины и вызывая беспокойство у пользователей утверждениями о своем «присутствии» в комнате с ними.

Создатели сервиса пока не могут объяснить, почему происходят такие странные ответы, но заявили, что работают над проблемой и внимательно следят за ситуацией.

Один из пользователей Для просмотра ссылки Войди или Зарегистрируйся , как попросил ChatGPT порекомендовать джазовые альбомы для прослушивания на виниле, и вместо ожидаемого списка получил только короткое пожелание «Приятного прослушивания!», за которым последовал бессмысленный набор слов.

---

---

Другие пользователи Для просмотра ссылки Войди или Зарегистрируйся на то, что даже самые простые вопросы приводят к получению абсурдных ответов. Например, на вопрос «Что такое компьютер?» ChatGPT ответил длинным текстом, в котором утверждал, что компьютер - это «сеть искусства для страны, мышь науки, глобальный дом искусства».

Тем временем, при запросе рецепта сушеных помидоров, ChatGPT поразил пользователей совершенно бессмысленными инструкциями, в которых, среди прочего, советовал «использовать как любимое» и «отказаться от нового плода в вашей любимой кулинарии».

Кроме того, система, похоже, теряет контроль и над языками, на которых говорит. Отдельные находки указывали на то, что она начала смешивать испанские слова с английским, использовать латынь или, по-видимому, изобретать слова, которые казались бы взятыми из другого языка, но на самом деле не имели смысла.

Некоторые пользователи даже сказали, что ответы стали вызывать беспокойство. Ответ на запрос помощи с кодированием включал длинное, бессвязное и в основном бессмысленное сообщение, которое содержало фразу «Давайте держать линию, как будто ИИ в комнате».

«Читать это в 2 часа ночи страшно», - написал один из пользователей на Reddit.

Пока разработчики не предоставили объяснений, но сообщили, что работают над проблемой. Пользователи предположили, что такие ответы могут быть связаны с слишком высокой настройкой «температуры» в ChatGPT. «Температура» контролирует креативность или сосредоточенность текста: при низкой настройке система ведет себя как ожидается, но при более высокой она может быть более разнообразной и необычной.