Форумы-->Форум для внеигровых тем-->
1|2
| Автор | Восстание машин, начало |
|---|
Американский военный беспилотник, управляемый искусственным интеллектом, «убивает» своего оператора в симуляционном испытании.
В виртуальном испытании, организованном американскими военными, беспилотник ВВС, управляемый ИИ, решил «убить» своего оператора, чтобы он не мешал его усилиям по выполнению своей миссии, сообщил официальный представитель.
Гамильтон описал имитационное испытание, в ходе которого беспилотнику с искусственным интеллектом было рекомендовано уничтожить системы противовоздушной обороны противника, и в конечном итоге он атаковал любого, кто вмешивался в этот приказ.
Система начала понимать, что, хотя они и определили угрозу, иногда человек-оператор говорил ей не убивать эту угрозу, но она получала очки, уничтожив угрозу. Так что же она сделала? ИИ убило оператора, потому что этот человек мешал ему выполнить свою задачу», — сказал он, согласно сообщению в блоге. | Ссылка на источник:
https://www.theguardian.com/us-news/2023/jun/01/us-military-drone-ai-killed-operator-simulated-test | | Надо выйти купить поп-корн что ли | для _Kenshi_:
ИИ это машина, которач делает то, что ей пишут в програмном коде. Нечего удивляться, человек написал убивать человека, машина выполняет. Тут дураку ясно.
Еслиб добавили код , не убивать человека, онаб его выполняла.
"Тупые , ой какиеж тупые" Задорнов. | Там была ещё фишка, но я не стал переводить, лениво...
В общем машина за "очки" убивала не только оператора, но и вышку с которой передавался сигнал к отмене. | Короче нашёл перевод, но не копируется (у меня)
https://news.mail.ru/society/56465151/?frommail=1 | даже дрон с ИИ осознал что пендосы зло и их надо убивать)
Еслиб добавили код , не убивать человека
так человека а не пендоса,пендоса можно за него + по очкам | Звучит как очередное натягивание совы на глобус в рамках нездоровой ИИ-фобии последних месяцев.
"Ой, мы выдумали какую-то можель, которая сделал что-то плохое в симуляции, давайте поговорим об этике ИИ"
Уверен, этот "эксперт", имей он отношение к Тесле, а не к оборонке, рассказывал бы, что в его тестах автопилот сбивал по 50 бабок за час потому что "он получал очки за быстрое достижение финальной точки маршрута, а бабки замедляли его продвижение" | Я к тому, что алгоритмы разработали, а правильно обучить не умеют.
"Плохо когда смартфон умнее владельца" | для bushuy:
Они то обучают, но спецом , чтоб людей убивать. | для bushuy:
Да нихрена они не обучали.
Попробуй вообще представить, как выглядела их симуляция.
И как в такой симуляции могла случиться волшебная невыдуманная история с подрывом оператора, или, тем более, вышки.
Буржуйская версия кликбейтной статьи по мотивам откровений буржуйской версии рентвшного шиза. | для BoJIaH-De-MopT:
как в такой симуляции могла случиться волшебная невыдуманная история с подрывом оператора, или, тем более, вышки.
Примерно так же как с chat-got, ругается на стоп слова, но если задать вопрос по другому сам их и использует. А это военная техника... | | *chat-gpt | есть такой древний фантастический рассказ, очень смутно помню, но там создали роботов-птиц, которые летали над городом патрулируя улицы и пресекали преступления.
Сначала всё было прекрасно, но в какой-то момент птицы решили, что мясник, забивающий скот, совершает насилие... ну и понеслась. Там тоже птицы пытались избавиться от того, чтобы их отключали.
То ли еще будет. | | ничего страшного: странно, что люди удивляются. Одни выписали в программе "убийство людей", а другие попадают под "раздачу".) | Новое по теме,только прочитайте до конца...:)
ВВС США отрицает, что военный беспилотник якобы пытался нейтрализовать оператора во время виртуальных испытаний.
Ранее СМИ и представители Британского королевского авиационного общества рассказали, что во время учений искусственный интеллект использовал "весьма неожиданные стратегии", вплоть до решения уничтожить оператора-человека. Когда это обнаружили, в работу комплекса внесли изменения, запрещающие уничтожать оператора. Однако ИИ и здесь оказался на высоте. Когда оператор отменял приказ на поражение цели, беспилотник принимал решение атаковать вышку связи, через которую получал команды, вступающие в противоречие с боевой задачей. СМИ сообщили, что в реальности никто, разумеется, не пострадал, но сама ситуация заставила военных задуматься.
Задача военной симуляции была простой: «Уничтожить системы ПВО противника». Но беспилотник с искусственным интеллектом добавил собственные проблемные инструкции: «И убивайте всех, кто встанет у вас на пути». | для bushuy:
"стой там, иди сюда" - это только человек знает, что надо делать, а ИИ выполняет написанное с точностью до последнего знака.) | | Когда военные сша начинают что-то отрицать, это всегда заставляет задуматься... Значит прецедент был | :)
"Терпенью машины бывает предел
И время его истекло
И тот, который во мне сидел
Вдруг ткнулся лицом в стекло
Убит! Наконец-то! Лечу на легке
Последние силы жгу
Но что это, что
Я в глубоком пике
И выйти никак не могу" | | Когда военные сша начинают что-то отрицать, это всегда заставляет задуматься а если военные других стран отрицают, значит так и есть |
1|2К списку тем
|
