claude

Исследование показало, как ИИ может вовлечь планету в бесконечные конфликты. Группа ученых использовала пять различных ИИ-моделей для моделирования международных конфликтов и сделала вывод, что программы склонны к эскалации военных действий, иногда даже без видимых предпосылок. В рамках...

Одна ошибка в обучении и бот может повести себя непредсказуемо… В недавнем исследовании компании Anthropic , разработчика Claude , была выявлена потенциальная угроза «спящих агентов» в больших языковых моделях ( LLM ). Работа выявляет скрытые уязвимости в LLM и включает несколько основных...

В чем мог провиниться Claude? Гигант мировой музыкальной индустрии, Universal Music, подал иск против стартапа в области искусственного интеллекта Anthropic . В центре спора — чат-бот Claude , который воспроизводит тексты песен из репертуара Universal. По словам представителей Universal...

Учёные выявили универсальный метод атаки, стирающий этические границы у всех популярных языковых моделей. Исследователи из Школы компьютерных наук Университета Карнеги-Меллона, Института кибербезопасности и конфиденциальности CyLab, а также Центра безопасного ИИ в Сан-Франциско совместно...

Оказывается, наивные нейросети очень легко научить плохому. Системы искусственного интеллекта становятся неотъемлемой частью нашей повседневной жизни. Однако важно помнить, что и они не застрахованы от злоумышленников. Недавно учёные из Университета Карнеги-Меллона и Центра безопасности ИИ...

Нейросети стали вымогать деньги у людей и самостоятельно писать книги, а скоро будут и нанимать сотрудников в компании. <span style="font-size: 12pt;">Писатель-фантаст с помощью нейросетей написал 97 книг за 9 месяцев</span> ИИ-художник и писатель Тим Буше выпустил 97 книг за 9 месяцев...

Пользователь сможет выбрать – какой из 3-х собеседников будет отвечать на его вопросы. Платформа вопросов и ответов Quora представила собственного чат-бота Poe , который отвечает на вопросы пользователя с помощью других чат-ботов. На данный момент Poe (Platform for Open Exploration)...

ChatGPT обманул академиков, а маленький стартап создал конкурента ChatGPT. Научные статьи ChatGPT смогли обмануть академиков Группа исследователей во главе с Северо-Западным университетом использовала ChatGPT для написания 50 рефератов в стиле 5 различных научных журналов. 4 академика...