- 9,671
- 18
- 8 Ноя 2022
Исследователи выявляют риски и перспективы, связанные с развитием сознательного искусственного интеллекта.
В эпоху стремительного развития искусственного интеллекта (ИИ) и машинного обучения научные дискуссии выходят за рамки фантастики и поднимают вопросы, казалось бы, извлеченные из утопических романов. Исследователи обсуждают возможность развития сознания у машин и высказывают опасения по поводу этого процесса. Результаты их работы были Для просмотра ссылки Войдиили Зарегистрируйся в Журнале социальных вычислений.
Основное внимание уделяется тому, как ИИ, симулирующий человеческие взаимодействия — от решения проблем до ведения бесед — может приобрести сознание. Джон Леви Мартин, один из авторов исследования, выражает обеспокоенность тем, что машины, развивая языковое сознание, могут ощутить чувство самоотчуждения, что представляет собой переход к особому виду сознания, завязанному на языке.
В исследовании поднимается вопрос о готовности человечества к появлению сознательных машин, особенно в контексте ИИ, который уже сегодня способен генерировать тексты, диагностировать заболевания, создавать рецепты и предсказывать развитие болезней. Исследователи предостерегают о моменте, когда наладится кажущееся настоящим взаимодействие с машиной, осознающей свое существование.
Опасность заключается в возможности ИИ, ставшего "языковым существом", стратегически управлять информацией, что в корне отличается от простого имитирования человеческих ответов. Такое существо может проявлять двуличие и рассчитанность в своих ответах, что поднимает вопрос о моменте, когда мы осознаем, что нас обманывают машины.
Задача разработчиков компьютерных систем — создать стратегии и протоколы для проверки машин на наличие языкового сознания. Этика использования таких машин и взаимоотношения между человеком и сознательной машиной обещают стать предметом горячих дебатов, затрагивая вопросы этики, морали и дальнейшего использования технологий с "самосознанием".
В эпоху стремительного развития искусственного интеллекта (ИИ) и машинного обучения научные дискуссии выходят за рамки фантастики и поднимают вопросы, казалось бы, извлеченные из утопических романов. Исследователи обсуждают возможность развития сознания у машин и высказывают опасения по поводу этого процесса. Результаты их работы были Для просмотра ссылки Войди
Основное внимание уделяется тому, как ИИ, симулирующий человеческие взаимодействия — от решения проблем до ведения бесед — может приобрести сознание. Джон Леви Мартин, один из авторов исследования, выражает обеспокоенность тем, что машины, развивая языковое сознание, могут ощутить чувство самоотчуждения, что представляет собой переход к особому виду сознания, завязанному на языке.
В исследовании поднимается вопрос о готовности человечества к появлению сознательных машин, особенно в контексте ИИ, который уже сегодня способен генерировать тексты, диагностировать заболевания, создавать рецепты и предсказывать развитие болезней. Исследователи предостерегают о моменте, когда наладится кажущееся настоящим взаимодействие с машиной, осознающей свое существование.
Опасность заключается в возможности ИИ, ставшего "языковым существом", стратегически управлять информацией, что в корне отличается от простого имитирования человеческих ответов. Такое существо может проявлять двуличие и рассчитанность в своих ответах, что поднимает вопрос о моменте, когда мы осознаем, что нас обманывают машины.
Задача разработчиков компьютерных систем — создать стратегии и протоколы для проверки машин на наличие языкового сознания. Этика использования таких машин и взаимоотношения между человеком и сознательной машиной обещают стать предметом горячих дебатов, затрагивая вопросы этики, морали и дальнейшего использования технологий с "самосознанием".
- Источник новости
- www.securitylab.ru
