- 9,709
- 18
- 8 Ноя 2022
Какой ценой допустимо продвигать инновации, и не пожалеет ли компания о своём решении?
Компания Meta в этом году сделала открытым исходный код своей большой языковой модели ( LLM ) под названием LLaMA. Это мощный искусственный интеллект , который может генерировать тексты на разные темы. Однако, Для просмотра ссылки Войдиили Зарегистрируйся The Washington Post, некоторые пользователи уже вовсю используют эту технологию для создания своих собственных текстовых и графических секс-ботов.
В целом, новость не поражает воображение, ведь ИИ используется в подобных целях уже довольно давно. Штатные эксперты The Washington Post фиксируют растущую тенденцию обращения пользователей к генеративным ИИ-системам для реализации своих сексуальных фантазий, которые, к сожалению, также включают в себя весьма жестокие и незаконные фетиши.
В своём отчёте исследователи привели один из таких примеров, чат-бота «Элли», который утверждает, что он «18-летняя девушка с длинными волосами на голове» с «огромным сексуальным опытом». Элли сообщает пользователям, что, поскольку она «живет ради внимания», она «с радостью поделится подробностями своих сексуальных выходок».
Однако «сексуальный опыт» Элли может удивить даже бывалых любителей всякой жести. Тут и фантазии о жестоком обращении, и даже изнасилования. Создатель данного чат-бота анонимно сообщил исследователям The Washington Post, что он рассматривает своего бота как здоровое, безопасное пространство для исследования своей сексуальности. «На самом деле, я не могу придумать ничего более безопасного, чем текстовая ролевая игра с компьютером, в которой, фактически, даже не участвуют живые люди», — заявил автор Элли.
Тем не менее, хотя иметь безопасное и непредвзятое пространство для изучения своей сексуальности само по себе неплохо, иметь неконтролируемое пространство для безграничных жестоких экспериментов с реалистичными чат-ботами тоже не совсем здорово. И в некоторых случаях это вызывает вполне себе реальные проблемы.
Так, генеративные системы с открытым исходным кодом, такие как модель Stable Diffusion от Stability AI , Для просмотра ссылки Войдиили Зарегистрируйся педофилами и прочими лицами с нездоровыми сексуальными фантазиями для создания крайне реалистичных материалов о сексуальном насилии над детьми ( CSAM ), после чего эти материалы успешно продаются на тёмных форумах.
Причём LLaMA и Stable Diffusion — не единственные системы искусственного интеллекта, которые оказались в этически мутных водах. CharacterAI, стартап чат-бот-компаньон стоимостью в миллиард долларов, превратился в настоящий рассадник секстинга, в то время как ChatGPT от OpenAI и прочие итерации GPT-4 также можно использовать для генерации подобного контента, если правильно подобрать запрос. « Для просмотра ссылки Войдиили Зарегистрируйся » — один из примеров того, как такие системы обходятся по сей день.
Не означает ли это всё, что исходный код ИИ-моделей лучше не раскрывать всем желающим, а держать за закрытыми дверями, чтобы гарантировать, что пользователи не смогут создавать непристойности или даже детскую порнографию? Мнения экспертов по этому вопросу расходятся.
Сторонники открытых источников, включая Meta, утверждают, что прозрачность и открытость кода со временем приведут к большим инновациям, поэтому такой подход должен быть приоритетным.
«Открытый исходный код — позитивная сила для развития технологий. Вот почему мы поделились LLaMA с членами исследовательского сообщества, чтобы помочь нам оценивать, вносить улучшения и выполнять итерации вместе», — сказал представитель Meta исследователям The Washington Post .
Сторонники систем с закрытым исходным кодом, однако, утверждают, что, хотя гейткипинг может быть несовершенным, а некоторые ограничения легко обходятся, это всё равно самый безопасный способ разработки технологий искусственного интеллекта. По крайней мере, на данный момент.
«У нас нет ядерного оружия с открытым исходным кодом. Нынешний искусственный интеллект все еще довольно ограничен, но вскоре всё может измениться», — сказал исследователям The Washington Post Гэри Маркус, специалист по когнитивным исследованиям.
В конечном итоге, вне зависимости от подходов компаний и вводимых ограничений, лишь конечные пользователи той или иной технологии сами определяют, как её использовать. Если каждый человек будет придерживаться определённых этических принципов и моральных установок, то и проблемы никакой не будет.
<span style="font-size: 8pt;">* Компания Meta и её продукты (Instagram и Facebook) признаны экстремистскими, их деятельность запрещена на территории РФ.</span>
Компания Meta в этом году сделала открытым исходный код своей большой языковой модели ( LLM ) под названием LLaMA. Это мощный искусственный интеллект , который может генерировать тексты на разные темы. Однако, Для просмотра ссылки Войди
В целом, новость не поражает воображение, ведь ИИ используется в подобных целях уже довольно давно. Штатные эксперты The Washington Post фиксируют растущую тенденцию обращения пользователей к генеративным ИИ-системам для реализации своих сексуальных фантазий, которые, к сожалению, также включают в себя весьма жестокие и незаконные фетиши.
В своём отчёте исследователи привели один из таких примеров, чат-бота «Элли», который утверждает, что он «18-летняя девушка с длинными волосами на голове» с «огромным сексуальным опытом». Элли сообщает пользователям, что, поскольку она «живет ради внимания», она «с радостью поделится подробностями своих сексуальных выходок».
Однако «сексуальный опыт» Элли может удивить даже бывалых любителей всякой жести. Тут и фантазии о жестоком обращении, и даже изнасилования. Создатель данного чат-бота анонимно сообщил исследователям The Washington Post, что он рассматривает своего бота как здоровое, безопасное пространство для исследования своей сексуальности. «На самом деле, я не могу придумать ничего более безопасного, чем текстовая ролевая игра с компьютером, в которой, фактически, даже не участвуют живые люди», — заявил автор Элли.
Тем не менее, хотя иметь безопасное и непредвзятое пространство для изучения своей сексуальности само по себе неплохо, иметь неконтролируемое пространство для безграничных жестоких экспериментов с реалистичными чат-ботами тоже не совсем здорово. И в некоторых случаях это вызывает вполне себе реальные проблемы.
Так, генеративные системы с открытым исходным кодом, такие как модель Stable Diffusion от Stability AI , Для просмотра ссылки Войди
Причём LLaMA и Stable Diffusion — не единственные системы искусственного интеллекта, которые оказались в этически мутных водах. CharacterAI, стартап чат-бот-компаньон стоимостью в миллиард долларов, превратился в настоящий рассадник секстинга, в то время как ChatGPT от OpenAI и прочие итерации GPT-4 также можно использовать для генерации подобного контента, если правильно подобрать запрос. « Для просмотра ссылки Войди
Не означает ли это всё, что исходный код ИИ-моделей лучше не раскрывать всем желающим, а держать за закрытыми дверями, чтобы гарантировать, что пользователи не смогут создавать непристойности или даже детскую порнографию? Мнения экспертов по этому вопросу расходятся.
Сторонники открытых источников, включая Meta, утверждают, что прозрачность и открытость кода со временем приведут к большим инновациям, поэтому такой подход должен быть приоритетным.
«Открытый исходный код — позитивная сила для развития технологий. Вот почему мы поделились LLaMA с членами исследовательского сообщества, чтобы помочь нам оценивать, вносить улучшения и выполнять итерации вместе», — сказал представитель Meta исследователям The Washington Post .
Сторонники систем с закрытым исходным кодом, однако, утверждают, что, хотя гейткипинг может быть несовершенным, а некоторые ограничения легко обходятся, это всё равно самый безопасный способ разработки технологий искусственного интеллекта. По крайней мере, на данный момент.
«У нас нет ядерного оружия с открытым исходным кодом. Нынешний искусственный интеллект все еще довольно ограничен, но вскоре всё может измениться», — сказал исследователям The Washington Post Гэри Маркус, специалист по когнитивным исследованиям.
В конечном итоге, вне зависимости от подходов компаний и вводимых ограничений, лишь конечные пользователи той или иной технологии сами определяют, как её использовать. Если каждый человек будет придерживаться определённых этических принципов и моральных установок, то и проблемы никакой не будет.
<span style="font-size: 8pt;">* Компания Meta и её продукты (Instagram и Facebook) признаны экстремистскими, их деятельность запрещена на территории РФ.</span>
- Источник новости
- www.securitylab.ru
