- 9,386
- 18
- 8 Ноя 2022
Интересная особенность чат-бота вызвала опасение за правдивость информации.
Чат-бот Grok оказался в центре скандала в соцсети X*, генерируя новости на основе шуточных сообщений и представляя их как достоверные сведения.
Один из пользователей Для просмотра ссылки Войдиили Зарегистрируйся материал, написанный ИИ, который превратил серию шутливых твитов в реальную новость, акцентируя внимание на том, что раздел трендовых новостей на X теперь под патронажем Grok.
Спорная статья получила заголовок «Адамс против Землетрясения: 50 000 полицейских в метро», ссылаясь на землетрясение магнитудой 4.8, произошедшее в Нью-Йорке 5 апреля 2024 года. Несмотря на то, что землетрясение считается легким, оно было одним из самых мощных за последнее десятилетие в городе. Сгенерированная новость утверждает, что мэр Нью-Йорка Эрик Адамс предпринял решительные действия, направив 1 000 офицеров полиции для борьбы с последствиями землетрясения и предотвращения новых, что является абсолютной выдумкой.
Сгенерированная новость (слева) и твиты, на основе которых Grok составил новость (справа)
Кульминацией статьи стало заявление о том, что в ответ на бедствие в метро города были направлены все полицейские для того, чтобы «стрелять по землетрясению, прежде чем оно ударит вновь». В конце текста присутствует отказ от ответственности, подчеркивающий, что Grok находится на ранней стадии разработки и может допускать ошибки, рекомендуя проверять получаемую информацию.
Инцидент с подачей шуточного содержания в качестве новостей не единственный: Grok также сгенерировал ложный заголовок о предполагаемой атаке Ирана на Израиль. Данные случаи демонстрируют, как чат-бот Илона Маска может легко создавать вымышленные новостные истории, что вызвало беспокойство относительно распространения дезинформации с помощью ИИ.
Распространение недостоверной информации ИИ-технологиями, особенно на ранних этапах их развития, не является редкостью. Чат-боты и другое ПО на основе ИИ часто Для просмотра ссылки Войдиили Зарегистрируйся создавая несуществующую информацию.
<span style="font-size: 8pt;">* Социальная сеть запрещена на территории Российской Федерации.</span><span style="font-size: 8pt;"></span>
Чат-бот Grok оказался в центре скандала в соцсети X*, генерируя новости на основе шуточных сообщений и представляя их как достоверные сведения.
Один из пользователей Для просмотра ссылки Войди
Спорная статья получила заголовок «Адамс против Землетрясения: 50 000 полицейских в метро», ссылаясь на землетрясение магнитудой 4.8, произошедшее в Нью-Йорке 5 апреля 2024 года. Несмотря на то, что землетрясение считается легким, оно было одним из самых мощных за последнее десятилетие в городе. Сгенерированная новость утверждает, что мэр Нью-Йорка Эрик Адамс предпринял решительные действия, направив 1 000 офицеров полиции для борьбы с последствиями землетрясения и предотвращения новых, что является абсолютной выдумкой.
Сгенерированная новость (слева) и твиты, на основе которых Grok составил новость (справа)
Кульминацией статьи стало заявление о том, что в ответ на бедствие в метро города были направлены все полицейские для того, чтобы «стрелять по землетрясению, прежде чем оно ударит вновь». В конце текста присутствует отказ от ответственности, подчеркивающий, что Grok находится на ранней стадии разработки и может допускать ошибки, рекомендуя проверять получаемую информацию.
Инцидент с подачей шуточного содержания в качестве новостей не единственный: Grok также сгенерировал ложный заголовок о предполагаемой атаке Ирана на Израиль. Данные случаи демонстрируют, как чат-бот Илона Маска может легко создавать вымышленные новостные истории, что вызвало беспокойство относительно распространения дезинформации с помощью ИИ.
Распространение недостоверной информации ИИ-технологиями, особенно на ранних этапах их развития, не является редкостью. Чат-боты и другое ПО на основе ИИ часто Для просмотра ссылки Войди
<span style="font-size: 8pt;">* Социальная сеть запрещена на территории Российской Федерации.</span><span style="font-size: 8pt;"></span>
- Источник новости
- www.securitylab.ru
