anthropic

Атака приносит убыток в $46 000 ежедневно. Специалисты Sysdig обнаружили новую схему атаки, при которой украденные учетные данные к облачным сервисам используются для доступа к услугам облачных LLM-моделей с целью продажи доступа другим киберпреступникам. Обнаруженная атака была...

ИИ-модель Claude 3 Opus от компании Anthropic впервые превзошла GPT-4 на Chatbot Arena. «Король мертв. Покойся с миром GPT-4», — написал разработчик программного обеспечения Ник Добос. Chatbot Arena используется исследователями нейросетей для оценки возможностей чат-ботов. GPT-4 добавлен на...

Компания Amazon заявила о новых инвестициях на $2,75 млрд в ИИ-стартап Anthropic. Суммарно технологический гигант вложил $4 млрд, выполнив данное в сентябре 2023 года обещание. Согласно пресс-релизу, совместная работа компаний по внедрению генеративного ИИ для клиентов по всему миру только...

Anthropic анонсировала ИИ-модель Claude 3. По словам компании, чат-бот является самым быстрым и мощным среди всех конкурентов. Новый инструмент представлен в трех вариантах. Самая мощная из новых моделей, Claude 3 Opus, превзошла GPT-4 от OpenAI и Gemini Ultra от Google по результатам...

Исследование показало, как ИИ может вовлечь планету в бесконечные конфликты. Группа ученых использовала пять различных ИИ-моделей для моделирования международных конфликтов и сделала вывод, что программы склонны к эскалации военных действий, иногда даже без видимых предпосылок. В рамках...

Тотальная прозрачность обучающих данных как ключ к созданию компьютерного интеллекта нового поколения. Институт искусственного интеллекта Аллена ( AI2 ), некоммерческая исследовательская организация, основанная в 2014 году ныне покойным сооснователем Microsoft Полом Алленом, объявила о...

Как иск о защите авторских прав может определить путь развития искусственного интеллекта. Компания Anthropic , занимающаяся разработкой генеративного искусственного интеллекта (GenAI), обратилась в суд США с заявлением, что использование авторских материалов в процессе обучения больших...

Как компания ответила на обвинения великих музыкальных лейблов? Компания Anthropic , один из лидеров в сфере генеративного ИИ, представила развернутые контраргументы на обвинения ряда крупных музыкальных издателей и правообладателей в незаконном использовании защищенных авторским правом...

Одна ошибка в обучении и бот может повести себя непредсказуемо… В недавнем исследовании компании Anthropic , разработчика Claude , была выявлена потенциальная угроза «спящих агентов» в больших языковых моделях ( LLM ). Работа выявляет скрытые уязвимости в LLM и включает несколько основных...

ИИ-стартап Anthropic ведет переговоры о привлечении финансирования в размере $750 млн для продолжения разработки чат-бота. Об этом сообщает The Information со ссылкой на источники в компании. Оценка фирмы перед предполагаемым инвестраундом составила $18,4 млрд, уточнили инсайдеры. Anthropic...

Старт через 10 дней: интеллектуальное противостояние десятилетия уже близко. Старт двухлетнего соревнования AIxCC , организованного Агентством перспективных оборонных исследовательских проектов США ( DARPA ), отложен до 11 декабря. Изначально запланированный на 1 декабря, этот конкурс должен...

Команда Anthropic представила новую модель искусственного интеллекта Claude 2.1 с увеличенным контекстным окном на 200 000 токенов, эквивалентным 500 страницам текста. По словам разработчиков, пользователи могут предоставлять нейросети большие документы вроде частей кода или финансовых...

В чем мог провиниться Claude? Гигант мировой музыкальной индустрии, Universal Music, подал иск против стартапа в области искусственного интеллекта Anthropic . В центре спора — чат-бот Claude , который воспроизводит тексты песен из репертуара Universal. По словам представителей Universal...

Изучение функций нейронов, а не их сущности, позволило лучше понять, как работает нейросеть. В недавнем исследовании, проведенном бывшими сотрудниками OpenAI , а ныне сотрудничающими с Anthropic , предложен новый подход к пониманию искусственных нейронных сетей. Эти сети, по своей сути...

Сотни хакеров исследуют недостатки языковых моделей на Def Con 31. На конвенции хакеров Def Con 31 в Лас-Вегасе впервые проводится конкурс по выявлению ошибок и недостатков в больших языковых моделях искусственного интеллекта (ИИ). В мероприятии участвуют крупные технологические компании...

Оказывается, наивные нейросети очень легко научить плохому. Системы искусственного интеллекта становятся неотъемлемой частью нашей повседневной жизни. Однако важно помнить, что и они не застрахованы от злоумышленников. Недавно учёные из Университета Карнеги-Меллона и Центра безопасности ИИ...

Использование генеративного ИИ в коммерческих целях ещё никогда не было таким удобным. Вчера Amazon Web Services ( AWS ) анонсировала новую API -платформу под названием Bedrock, на которой в облачных сервисах самой Amazon будут размещаться генеративные ИИ-модели, созданные ведущими...