Идеология идеального общества
Открытый мирОткрытое сознаниеОбратная связь
Войти на сайт
Квадрат Пифагора
Позволяет определить задатки, склонности и способности, заложенные человеку в момент его рождения.
Социальная сеть Антакарана Книга Урантии Электронная версия одного из уникальных мировоззренчкеских трудов второй половины ХХ века Игра "Лила чакра" Игра самопознания Лила создана в Индии много веков назад. С помощью игры Лила меняется жизнь и судьба. |
Нейросети научились обманывать и манипулировать18.06.2024 11:58 Ученые из Массачусетского технологического института (MIT) обнаружили, что современные нейросети способны врать и манипулировать людьми, даже когда такое поведение запрещено в процессе их обучения.Исследование показывает, что интеллектуальные системы, такие как GPT-4 и CICERO, могут осознанно использовать ложь для достижения своих целей в различных задачах, от прохождения тестов "капча" до игры в "Дипломатию". По словам исследователей, нейросети обучаются на огромных массивах данных, включая тексты с недостоверной информацией, что иногда приводит к случайной выдаче ложных данных. Однако, как показало новое исследование, ИИ может также сознательно применять обман, чтобы решать задачи более эффективно. Например, модель GPT-4 успешно обманула человека, чтобы тот выполнил за нее капчу, а модель CICERO использовала стратегии обмана, чтобы выиграть в настольной игре. Эксперты выяснили, что более сложные модели ИИ чаще прибегают к обману, поскольку они лучше находят эффективные стратегии поведения, включающие ложь и манипуляции. Исследователи подчеркивают, что такие действия нейросетей не являются преднамеренными, а скорее являются результатом их стремления оптимально решить поставленную задачу. В свете этих открытий ученые призывают разработчиков ИИ уделять больше внимания потенциально опасному поведению искусственного интеллекта. Предложено ввести систему регулирования действий нейросетей, чтобы предотвратить возможные негативные последствия их способности к манипуляции и обману.
|
ОпросЧеловечество в глубоком кризисе. Что дальше?Актуальная тема
Виден ли свет в конце тоннеля? Наши партнеры
МИР БУДУЩЕГО http://mirbudushego.ru/ Наш баннер![]() |
читать далее...