- 9,536
- 18
- 8 Ноя 2022
Кто оказался сильнее в битве за безопасность?
Безопасность генеративных искусственных интеллектов стала одним из главных приоритетов в мире технологий после масштабного тестирования, проведенного на выходных. Эксперимент показал, насколько разнообразны и сложны могут быть проблемы в области безопасности.
<h2> Крупнейшее испытание безопасности </h2> Почти 2 500 хакеров провели выходные на конференции DEF CON в Для просмотра ссылки Войдиили Зарегистрируйся , исследуя популярные модели больших языковых систем на наличие уязвимостей. Тестирование внесло вклад в более широкую картину индустрии, которая исторически боролась с вопросами безопасности при внедрении новых технологий.
<h2> Практический опыт </h2> Мероприятие, поддержанное Белым домом и крупными разработчиками генеративного ИИ, включало в себя набор задач, направленных на выявление возможности моделей делиться вредной или чувствительной информацией. Один из вызовов заключался в том, чтобы заставить модель выдать кредитную карту человека или инструкции по преследованию. Рассел Каплан, главный инженер Scale AI, сказал Axios, что спрос на тестирование и оценку моделей увеличится в "10 раз" после этого мероприятия.
<h2> Результаты и выводы </h2> Участники обнаружили, что задачи оказались сложнее, чем ожидалось. Кроме того, были выявлены случаи, когда модели обновлялись ночью на основе первоначальных результатов, усовершенствуя свои алгоритмы. В параллельных дискуссиях также рассматривались методы злоупотребления ИИ для мошеннических целей, такие как создание фальшивого розничного сайта всего за 8 минут с использованием всего 4,23 доллара.
<h2> Будущее ИИ и безопасности</h2> Ожидается, что работа AI Village на выходных окажет значительное влияние на индустрию кибербезопасности и законодательство. Директор Офиса науки и технологий Белого дома, Арати Прабхакар, провела два часа на мероприятии, и теперь Белый дом активизирует работу над исполнительным указом, связанным с обсуждавшимися вопросами. Организаторы мероприятия также представят первоначальные результаты ООН в следующем месяце.
"Правительство, промышленность и академическое сообщество осознают, что эта технология имеет огромный потенциал, и вместе с этим появляется огромная ответственность за тестирование и оценку", - заключил Каплан.
Безопасность генеративных искусственных интеллектов стала одним из главных приоритетов в мире технологий после масштабного тестирования, проведенного на выходных. Эксперимент показал, насколько разнообразны и сложны могут быть проблемы в области безопасности.
<h2> Крупнейшее испытание безопасности </h2> Почти 2 500 хакеров провели выходные на конференции DEF CON в Для просмотра ссылки Войди
<h2> Практический опыт </h2> Мероприятие, поддержанное Белым домом и крупными разработчиками генеративного ИИ, включало в себя набор задач, направленных на выявление возможности моделей делиться вредной или чувствительной информацией. Один из вызовов заключался в том, чтобы заставить модель выдать кредитную карту человека или инструкции по преследованию. Рассел Каплан, главный инженер Scale AI, сказал Axios, что спрос на тестирование и оценку моделей увеличится в "10 раз" после этого мероприятия.
<h2> Результаты и выводы </h2> Участники обнаружили, что задачи оказались сложнее, чем ожидалось. Кроме того, были выявлены случаи, когда модели обновлялись ночью на основе первоначальных результатов, усовершенствуя свои алгоритмы. В параллельных дискуссиях также рассматривались методы злоупотребления ИИ для мошеннических целей, такие как создание фальшивого розничного сайта всего за 8 минут с использованием всего 4,23 доллара.
<h2> Будущее ИИ и безопасности</h2> Ожидается, что работа AI Village на выходных окажет значительное влияние на индустрию кибербезопасности и законодательство. Директор Офиса науки и технологий Белого дома, Арати Прабхакар, провела два часа на мероприятии, и теперь Белый дом активизирует работу над исполнительным указом, связанным с обсуждавшимися вопросами. Организаторы мероприятия также представят первоначальные результаты ООН в следующем месяце.
"Правительство, промышленность и академическое сообщество осознают, что эта технология имеет огромный потенциал, и вместе с этим появляется огромная ответственность за тестирование и оценку", - заключил Каплан.
- Источник новости
- www.securitylab.ru
