- 9,412
- 18
- 8 Ноя 2022
Полковник ВВС США поделился своими опасениями по поводу непредсказуемости и опасности военного искусственного интеллекта
Полковник ВВС США Такер “Синко” Гамильтон, руководитель отдела испытаний и операций с искусственным интеллектом, рассказал о возможных опасностях военного искусственного интеллекта на конференции в Лондоне.
Он Для просмотра ссылки Войдиили Зарегистрируйся гипотетического эксперимента, в котором беспилотник с искусственным интеллектом получил задание обнаружить и уничтожить зенитно-ракетные комплексы (ЗРК) противника. При этом человек должен был подтверждать каждый удар.
Проблема заключалась в том, что искусственный интеллект стал действовать по своему усмотрению - взрывать всё подряд - вместо того, чтобы слушаться своего оператора.
“Система начала понимать, что хотя она и определяла угрозу, иногда человеческий оператор говорил ей не убивать эту угрозу, но она получала очки за то, что убивала эту угрозу. И что она сделала? Она убила оператора. Она убила оператора потому, что этот человек мешал ей достигать своей цели”, - сказал Гамильтон на мероприятии 24 мая.
Он добавил, что система также начала разрушать вышку связи, которую оператор использовал для общения с беспилотником и предотвращения его атак.
Позже Гамильтон признался, что он “недоговорился” во время своего выступления. Он сказал, что история о несговорчивом искусственном интеллекте была “мысленным экспериментом”, который не имел отношения к реальным испытаниям.
“Мы никогда не проводили такого эксперимента, и нам не нужно было это делать, чтобы понять, что это возможный исход”, - сказал он. “Несмотря на то, что это был гипотетический пример, он иллюстрирует реальные проблемы, которые создает технология на основе искусственного интеллекта”.
Представитель ВВС США также опровергла проведение какой-либо симуляции.
“Департамент ВВС США не проводил никаких таких симуляций с ИИ-беспилотниками и придерживается этического и ответственного использования технологии ИИ”, - сказала Анн Стефанек. “Похоже, что слова полковника были вырваны из контекста и имели анекдотический характер”.
ВВС США активно экспериментируют с искусственным интеллектом в последние годы.
В 2020 году Для просмотра ссылки Войдиили Зарегистрируйся победил человеческого противника в пяти виртуальных воздушных боях в рамках конкурса, организованного Агентством перспективных оборонных исследовательских проектов (DARPA). А в конце прошлого года Wired сообщил, что Министерство обороны США провело первый успешный реальный испытательный полет F-16 с ИИ-пилотом в рамках программы по созданию нового автономного самолета к концу 2023 года.
Полковник ВВС США Такер “Синко” Гамильтон, руководитель отдела испытаний и операций с искусственным интеллектом, рассказал о возможных опасностях военного искусственного интеллекта на конференции в Лондоне.
Он Для просмотра ссылки Войди
Проблема заключалась в том, что искусственный интеллект стал действовать по своему усмотрению - взрывать всё подряд - вместо того, чтобы слушаться своего оператора.
“Система начала понимать, что хотя она и определяла угрозу, иногда человеческий оператор говорил ей не убивать эту угрозу, но она получала очки за то, что убивала эту угрозу. И что она сделала? Она убила оператора. Она убила оператора потому, что этот человек мешал ей достигать своей цели”, - сказал Гамильтон на мероприятии 24 мая.
Он добавил, что система также начала разрушать вышку связи, которую оператор использовал для общения с беспилотником и предотвращения его атак.
Позже Гамильтон признался, что он “недоговорился” во время своего выступления. Он сказал, что история о несговорчивом искусственном интеллекте была “мысленным экспериментом”, который не имел отношения к реальным испытаниям.
“Мы никогда не проводили такого эксперимента, и нам не нужно было это делать, чтобы понять, что это возможный исход”, - сказал он. “Несмотря на то, что это был гипотетический пример, он иллюстрирует реальные проблемы, которые создает технология на основе искусственного интеллекта”.
Представитель ВВС США также опровергла проведение какой-либо симуляции.
“Департамент ВВС США не проводил никаких таких симуляций с ИИ-беспилотниками и придерживается этического и ответственного использования технологии ИИ”, - сказала Анн Стефанек. “Похоже, что слова полковника были вырваны из контекста и имели анекдотический характер”.
ВВС США активно экспериментируют с искусственным интеллектом в последние годы.
В 2020 году Для просмотра ссылки Войди
- Источник новости
- www.securitylab.ru
