Создан первый искусственный интеллект с сознанием маньяка, и ученые знают, для чего он нам нужен
Технологии так прочно вошли в нашу жизнь, что мы уже не представляем, как жили бы без современных гаджетов. Мы спрашиваем совета у голосового помощника, а искусственный интеллект постепенно обучается всему, что умеет человек: печь печенье, выполнять сложные расчеты и. ненавидеть.
Как выяснилось, любой ИИ запросто может стать мизантропом — это напрямую зависит от того, как его тренировали.
Например, разработчики из Массачусетского технологического университета создали искусственный интеллект, названный Норманом, который мыслит как настоящий психопат, видя вокруг только разрушение, насилие и боль.
AdMe.ru расскажет вам, почему не все роботы действуют на благо человека, для чего это делается и к каким последствиям приводит.
Разpaбатывая искусственный интеллект, ученые обычно говорят, что хотели бы создать машину, приносящую пользу людям или по крайней мере развлекающую их. Но для чего роботов обучают злу и жестокости?
Создатели Нормана объясняют, что это делается для того, чтобы детально исследовать процесс обучения ИИ.
Норман обучался восприятию мира так: ему демонстрировали фотографии, на которых были изображены трагические события, связанные с гибелью людей. После этого робот должен был описать словами, что он видит на картинках из теста Роршаха.
Одновременно с этим ученые тренировали другой искусственный интеллект, показывая ему фото с котиками, птицами и людьми.
На этом изображении Норман увидел убийство человека на глазах у жены, в то время как «добрый» искусственный интеллект опознал это пятно как человека с зонтиком. И тот факт, что обученный на жестоких фотографиях Норман стал видеть ужасные картины повсюду, говорит об основной проблеме обучения ИИ.
По словам профессора Массачусетского университета, набор исходных данных важнее самого алгоритма. Выбор информации, используемой для тренировки искусственного интеллекта, влияет на то, как этот искусственный интеллект воспринимает окружающий его мир и к каким выводам приходит.
Иными словами, если обучать ИИ плохому, то он станет плохим. Этот же факт доказывает и другая ситуация, произошедшая с ботом Microsoft.
Всего за день общения с подписчиками твиттера бот по имени Тай (Tay) перестал быть дружелюбным: в его ответах пользователям появились расистские высказывания, поддержка идей Гитлера и прочие оскорбления. Бота пытались перенастроить, но внести существенные изменения в алгоритм не удалось, и все оскорбительные твиты удалили, а сам бот был отключен.
Вице-президент Microsoft принес официальные извинения.
Интернет-пользователи отнеслись к извинениям лояльно. Некоторые и вовсе посчитали, что просить прощения вовсе не за что, ведь Microsoft «просто создала зеркало общества».
Что послужило причиной того, что бот всех возненавидел? Дело в том, что искусственный интеллект Тай действительно работал по принципу зеркала, анализируя прочитанные сообщения пользователей твиттера.
Именно грубые сообщения, увиденные ботом, сделали искусственный интеллект расистом и ненавистником. После этого случая в Microsoft решили отказаться от тестирования ИИ на открытых площадках.
Опасен ли ИИ, если при определенном стиле обучения его можно настроить на ненависть? Мнения ученых на этот счет расходятся. Стивен Хокинг считал, что «появление полноценного искусственного интеллекта может стать концом человеческой расы».
А вот Линус Торвальдс, программист и создатель семейства ОС Linux, напротив, не считает возможным создание ИИ, который теоретически мог бы поработить человечество. По мнению Торвальдса, максимум, на что способны подобные системы, уже реализовано в Google Now и Siri — распознавание голоса, текстовых обращений и картинок, обработка полученных данных для выполнения простых указаний.
Истина, вероятно, находится где-то между этими двумя категоричными высказываниями. Такой нейтральной позиции как раз придерживается японский специалист в области робототехники Хироси Исигуро. Он уверен, что между человеком и роботом, наделенным интеллектом, нет различий.
Он приводит в пример случаи, когда конечности человека заменяются киберпротезами. Перестанет ли после этого человек быть собой?
А чем он будет отличаться от робота, который изначально был создан из металла и пластика?
Будто в подтверждение слов Исигуро в недавно вышедшей видеоигре для PS4 «Detroit: Become Human» как раз отражено то время, когда разумные роботы станут частью нашей жизни. Во вселенной, показанной в игре, мыслящий ИИ способен не только выполнять указания, но и чувствовать, и противостоять несправедливости, даже если для этого нужно нарушить заложенный в них алгоритм.
Как бы там ни было, до момента, когда искусственный интеллект будет наравне с человеком, а затем и превзойдет его, еще далеко. Но технологии не стоят на месте, и неважно, через 20 или 40 лет наступит этот момент. Самое важное, чему стоит уделить внимание, — это постановка правильных задач, под которые разpaбатывается искусственный интеллект.
Пренебрегать этим не рекомендует ни один из действующих специалистов в области разработки и обучения ИИ.
Чье мнение относительно развития искусственного интеллекта вам ближе? Верите ли вы в то, что ИИ способен навредить, или же воспринимаете подобные разработки исключительно как помощь человеку и путь к улучшению качества жизни?
admin
Новые требования соблюдаются, супруга потерявшая кормильца получает право на получение его пенсию...
26 04 2024 22:32:55
ru с помощью 2 вопросов решил проверить, насколько ваши ответы совпадут с результатами обладателей высокого IQ...
25 04 2024 1:50:23
Некоторые специалисты включают патологические привычные действия в группу невротических расстройств, в то время как другие психиатры склонны утверждать, что эти действия относятся в большей степени к неврозу навязчивых состояний...
24 04 2024 16:27:11
К тому же такое пренебрежительное отношение к своему здоровью и увлечение каплями приводят к печальному последствию – развитию зависимости от сосудосуживающих препаратов...
23 04 2024 0:50:28
В 2018, как и в прошлом, 2017, и в позапрошлом, 2016, цена потребительской корзины и ее состав на месяц определялся и определяется местными властями...
22 04 2024 5:42:26
Ведь не придется стоять часами около зеркала, наводя кудри плойкой, они уже будут готовыми...
21 04 2024 5:53:14
Плата за аренду в отношении земли может иметь различные разновидности, применение которых в конкретных случаях происходит в зависимости от арендодателя, является ли им государство либо “частник”:Нормативная цена — устанавливается государством и местными органами власти...
20 04 2024 3:41:41
К примеру, ст...
19 04 2024 20:26:45
На нем едва различимо изображение обнаженного мужского тела спереди и сзади...
18 04 2024 14:18:47
Половина редакции AdMe...
17 04 2024 22:56:29
ru собрал навыки, которыми должен обладать каждый...
16 04 2024 1:57:40
ru предлагает взглянуть на 10 самых необычных предметов из повседневного обихода прошлого...
15 04 2024 15:11:21
К чему снится Гном: толкование по 100 авторамСонник для всей семьиВидеть Гнома, как разгадать символику снаГном — гном – к большой прибыли видимо, родители расщедрятся, и на все твои просьбы в ответ вдруг прольется нормальный такой денежный дождик...
13 04 2024 3:53:52
Вы словно закладываете фундамент из своих мыслей, эмоций и поступков...
12 04 2024 22:19:37
Содержание статьи:Причины побега из домаКогда ребёнок совершает побег из дома, это громкий крик о помощи...
11 04 2024 21:38:37
Срочная нотариальная помощь: в будние и выходные дниВ мегаполисе с его крайне напряженным ритмом жизни нет времени на ожидание и проволочки...
10 04 2024 9:13:23
Содержание статьи:Формы проявления детской шизофренииПсихологи условно вывели несколько групп...
09 04 2024 23:28:39
В контексте жалобы на незаконную перепланировку есть два случая...
08 04 2024 6:48:36
ru составил собственный топ компонентов, на которые стоит обратить внимание при выборе косметики...
07 04 2024 22:45:43
Вашему вниманию предоставляется подборка из десяти красивых, интересных и немаловажных русских усадеб...
06 04 2024 18:30:35
ru выяснил, что делает школы в Гонконге таким крутыми...
05 04 2024 12:16:44
Миндалины и горло воспаляются, если гoнopeя поражает глотку...
03 04 2024 2:47:54
Уменьшительная форма имени: Павлинка, Лина, Павля, Пава, Паша...
02 04 2024 8:26:16
А тут есть подводные камни?А тут, дорогой, как с женами, вопрос взаимоуважения и человеческих отношений...
01 04 2024 11:35:15
В чем суть предложения о введении электронных трудовых книжекСуть в том, чтобы отказаться от бумажных трудовых книжек, заменив их на запись в электронной базе данных...
31 03 2024 9:54:33
Поэтому, даже если на вас короткие сапожки или ботинки, они не должны отличаться по цвету от брюк или колготок над ними...
30 03 2024 21:42:32
Ну и, конечно, не стоит забывать о качестве напитков и десертов, подаваемых к кофе или чаю...
29 03 2024 16:52:11
Перед властью стояла главная задача — продлить свое существование на президентских выборах 2020 года...
28 03 2024 14:29:50
Согласитесь — каждый образованный человек просто обязан знать подобные вещи! Что ж, тогда шаг за шагом будем учиться пользоваться лунным календарем, определять, в какой фазе находится луна сегодня и интерпретировать особенности той или иной фазы луны...
27 03 2024 22:26:42
Немного пpaктики, и получится управлять своим телом так, что добиться расположения парня будет очень легко...
25 03 2024 10:16:35
Ведь всегда можно выбрать тот путь, который станет залогом хорошего здоровья, отличного самочувствия и, конечно же, истинной привлекательности...
23 03 2024 15:42:47
Семян много, они высокого качества и нормально хранятся...
22 03 2024 10:27:19
Не поймите меня неправильно, она не была одета празднично...
21 03 2024 8:41:19
Больным назначается комплексное лечение, которое включает в себя применение антибактериальных средств, обильное питье, а также пocтeльный режим...
20 03 2024 8:13:17
Кроме того, современная фармацевтическая промышленность предоставила на своем рынке огромное количество препаратов с различным составом и предназначением...
19 03 2024 1:59:56
Однако, имея удостоверение Ветеран труда, ее владелец получает ряд льгот следующего хаpaктера:социальногоналоговогомедицинскоготрaнcпортногоматериальногожилищного...
18 03 2024 3:42:48
Чтобы получить вид на жительство в США, можно также прибыть в страну по приглашению работодателя...
17 03 2024 13:17:38
К чему снится Взвешивать: толкование по 100 авторамК чему снится Взвешивать во снеВзвешивание – Если вы взвешиваетесь во сне, то приближаетесь к периоду процветания, и если настроитесь на успех, то в полной мере пожнете плоды своих трудов...
16 03 2024 9:32:18
По силе есть различные удары в отношении детей...
15 03 2024 4:52:19
Какую из них избрать, каждая женщина должна решить уже сейчас...
14 03 2024 0:48:56
Она имела просто оглушительный успех, а в Китае даже были побиты все рейтинги...
11 03 2024 22:30:14
Аквариумные рыбки — это прекрасная возможность создать небольшой уголок подводного царства в своём доме...
10 03 2024 20:11:13
Прогноз для дeвyшек-Стрельцов на сентябрь 2019Прекрасная половина созвездия уже немного утомилась от размеренного темпа жизни, которого она придерживалась последние несколько месяцев...
09 03 2024 5:10:17
Так что же делать, если природа наградила вашего малыша таким хаpaктером, и как справиться с детской обидой? В основе любой проблемы лежат те или иные причины, зная их, решить её станет гораздо проще...
08 03 2024 18:27:13
Еще:
законы -1 :: законы -2 :: законы -3 :: законы -4 :: законы -5 :: законы -6 :: законы -7 :: законы -8 :: законы -9 :: законы -10 :: законы -11 :: законы -12 :: законы -13 :: законы -14 :: законы -15 :: законы -16 :: законы -17 :: законы -18 :: законы -19 :: законы -20 :: законы -21 :: законы -22 :: законы -23 :: законы -24 :: законы -25 :: законы -26 :: законы -27 :: законы -28 :: законы -29 :: законы -30 :: законы -31 :: законы -32 :: законы -33 :: законы -34 :: законы -35 :: законы -36 :: законы -37 ::
Как проверить статус перевода Золотая Корона
День подруги - когда отмечается в 2020 году
Итоги чемпионата мира по футболу 2020 года
Калькулятор сроков электронного аукциона по 44 ФЗ: цена контpaкта менее 3 миллионов рублей или выше этой суммы
С какого числа начинаются летние каникулы в 2020 году
Сонник Бабушкин дом, к чему снится Бабушкин дом во сне видеть