Создан первый искусственный интеллект с сознанием маньяка, и ученые знают, для чего он нам нужен
Технологии так прочно вошли в нашу жизнь, что мы уже не представляем, как жили бы без современных гаджетов. Мы спрашиваем совета у голосового помощника, а искусственный интеллект постепенно обучается всему, что умеет человек: печь печенье, выполнять сложные расчеты и. ненавидеть.
Как выяснилось, любой ИИ запросто может стать мизантропом — это напрямую зависит от того, как его тренировали.
Например, разработчики из Массачусетского технологического университета создали искусственный интеллект, названный Норманом, который мыслит как настоящий психопат, видя вокруг только разрушение, насилие и боль.
AdMe.ru расскажет вам, почему не все роботы действуют на благо человека, для чего это делается и к каким последствиям приводит.
Разpaбатывая искусственный интеллект, ученые обычно говорят, что хотели бы создать машину, приносящую пользу людям или по крайней мере развлекающую их. Но для чего роботов обучают злу и жестокости?
Создатели Нормана объясняют, что это делается для того, чтобы детально исследовать процесс обучения ИИ.
Норман обучался восприятию мира так: ему демонстрировали фотографии, на которых были изображены трагические события, связанные с гибелью людей. После этого робот должен был описать словами, что он видит на картинках из теста Роршаха.
Одновременно с этим ученые тренировали другой искусственный интеллект, показывая ему фото с котиками, птицами и людьми.
На этом изображении Норман увидел убийство человека на глазах у жены, в то время как «добрый» искусственный интеллект опознал это пятно как человека с зонтиком. И тот факт, что обученный на жестоких фотографиях Норман стал видеть ужасные картины повсюду, говорит об основной проблеме обучения ИИ.
По словам профессора Массачусетского университета, набор исходных данных важнее самого алгоритма. Выбор информации, используемой для тренировки искусственного интеллекта, влияет на то, как этот искусственный интеллект воспринимает окружающий его мир и к каким выводам приходит.
Иными словами, если обучать ИИ плохому, то он станет плохим. Этот же факт доказывает и другая ситуация, произошедшая с ботом Microsoft.
Всего за день общения с подписчиками твиттера бот по имени Тай (Tay) перестал быть дружелюбным: в его ответах пользователям появились расистские высказывания, поддержка идей Гитлера и прочие оскорбления. Бота пытались перенастроить, но внести существенные изменения в алгоритм не удалось, и все оскорбительные твиты удалили, а сам бот был отключен.
Вице-президент Microsoft принес официальные извинения.
Интернет-пользователи отнеслись к извинениям лояльно. Некоторые и вовсе посчитали, что просить прощения вовсе не за что, ведь Microsoft «просто создала зеркало общества».
Что послужило причиной того, что бот всех возненавидел? Дело в том, что искусственный интеллект Тай действительно работал по принципу зеркала, анализируя прочитанные сообщения пользователей твиттера.
Именно грубые сообщения, увиденные ботом, сделали искусственный интеллект расистом и ненавистником. После этого случая в Microsoft решили отказаться от тестирования ИИ на открытых площадках.
Опасен ли ИИ, если при определенном стиле обучения его можно настроить на ненависть? Мнения ученых на этот счет расходятся. Стивен Хокинг считал, что «появление полноценного искусственного интеллекта может стать концом человеческой расы».
А вот Линус Торвальдс, программист и создатель семейства ОС Linux, напротив, не считает возможным создание ИИ, который теоретически мог бы поработить человечество. По мнению Торвальдса, максимум, на что способны подобные системы, уже реализовано в Google Now и Siri — распознавание голоса, текстовых обращений и картинок, обработка полученных данных для выполнения простых указаний.
Истина, вероятно, находится где-то между этими двумя категоричными высказываниями. Такой нейтральной позиции как раз придерживается японский специалист в области робототехники Хироси Исигуро. Он уверен, что между человеком и роботом, наделенным интеллектом, нет различий.
Он приводит в пример случаи, когда конечности человека заменяются киберпротезами. Перестанет ли после этого человек быть собой?
А чем он будет отличаться от робота, который изначально был создан из металла и пластика?
Будто в подтверждение слов Исигуро в недавно вышедшей видеоигре для PS4 «Detroit: Become Human» как раз отражено то время, когда разумные роботы станут частью нашей жизни. Во вселенной, показанной в игре, мыслящий ИИ способен не только выполнять указания, но и чувствовать, и противостоять несправедливости, даже если для этого нужно нарушить заложенный в них алгоритм.
Как бы там ни было, до момента, когда искусственный интеллект будет наравне с человеком, а затем и превзойдет его, еще далеко. Но технологии не стоят на месте, и неважно, через 20 или 40 лет наступит этот момент. Самое важное, чему стоит уделить внимание, — это постановка правильных задач, под которые разpaбатывается искусственный интеллект.
Пренебрегать этим не рекомендует ни один из действующих специалистов в области разработки и обучения ИИ.
Чье мнение относительно развития искусственного интеллекта вам ближе? Верите ли вы в то, что ИИ способен навредить, или же воспринимаете подобные разработки исключительно как помощь человеку и путь к улучшению качества жизни?
admin
История появления на модной арене юбки-карандаш окутана ореолом таинственности...
08 09 2026 18:17:25
Разберемся, что такое ausbildung и какие перспективы у иностранцев после завершения учебы...
07 09 2026 8:21:55
Примечательно, что первые упоминания о стране в древних письменах датируются еще шестым веком до нашей эры...
06 09 2026 22:58:54
Если приступ гайморита с сильной болью и высокой температурой прихватил вас поздно ночью, то нужно обратиться в ургентную неотложную помощь...
05 09 2026 5:44:39
Есть и общие правила, которые хорошо бы иметь в виду ещё до входа в аптеку, потому что многие фармацевты часто забывают дать подробную консультацию или осветить важные аспекты лечения...
04 09 2026 12:48:32
Виды пластинокВсё пластинки делятся на съёмные и несъёмные...
02 09 2026 11:20:35
Можно ли с ним бороться? Как приучить детей к порядку? Отвечает семейный психолог Екатерина Бурмистрова, мама одиннадцати детей...
01 09 2026 3:55:10
Содержание статьи:Научное определение близорукости и причины её возникновенияМиопия (или близорукость) – нарушение преломляющей возможности глаза (или глаз), приводящая к искривлению световых людей, которые падают на поверхность глаза...
31 08 2026 6:38:29
Мы решили систематизировать имеющуюся информацию и помочь вам подготовиться к торжеству...
30 08 2026 17:23:48
Каменское — село небольших размеров, но с бесконечным песчаным пляжем и уютом, присущим только ему...
29 08 2026 9:14:59
Поговорим об особенностях взаимоотношений в этой паре...
28 08 2026 13:39:50
В 1943 году состоялась встреча в Москве, на которой присутствовали руководители СССР, США и Великобритании...
27 08 2026 18:49:10
Погода в Санкт-Петербурге холоднее и влажнее московской – климат чем-то похож на морской, ведь Питер находится на берегу Финского залива, соединяющегося с Атлантикой...
26 08 2026 22:33:41
ru расскажет вам о методах быстрого снятия стресса, которыми пользуются сами профессионалы...
25 08 2026 20:13:50
ru выбрал 15 фильмов, которые никого не оставят равнодушными...
24 08 2026 3:55:44
В первый же день количество посетителей перевалило за 2 тыс...
23 08 2026 7:47:49
919 г (диметикон 350 : кремния диоксид, в соотношении 92...
21 08 2026 10:45:39
Раннее обнаружение высыпаний, свойственных данному заболеванию, является основой своевременной диагностики и лечения...
20 08 2026 20:32:21
В данном случае гараж принадлежал юридическому лицу...
19 08 2026 1:41:12
Но на 2016 год наше государство столкнулось с некоторыми проблемами, и власти даже при всем желании не могут увеличивать социальные выплаты гражданам так, как это положено по законодательству...
18 08 2026 12:43:54
Тем ни менее, при любом напоре новых клиентов не особо стремящихся открывать счета в банках и заказывать банковские карточки, помочь себе в том, берутся сами банкиры...
17 08 2026 12:25:42
Нередко локализация отмечается:— в предплечье и кисти руки (чаще всего правой)— в районе пяточного сухожилия— в передней части голени...
16 08 2026 3:50:58
Маркса Дата постройки: 1690 год Координаты: 58°08’48...
15 08 2026 15:39:23
От чего появляютсяДля того, чтобы понять, как убрать морщину между бровей для начала нужно разобраться, откуда вообще она взялась...
14 08 2026 23:28:26
Пилинг лица гиалуроновой кислотойПилинг гиалуроновой кислотой проводят в косметических салонах...
13 08 2026 3:59:48
Вы все время старались его игнорировать...
12 08 2026 20:35:11
Однако именно те санкции стали ключевым фактором, который обвалил рубль весной...
11 08 2026 7:31:32
Добро пожаловать в нашу гeймерскую банду...
10 08 2026 10:29:23
Это выгодно как для работника, так и государству...
09 08 2026 7:31:49
Но всё же некоторые из них вызывают во мне протест...
08 08 2026 10:49:25
Правильно оформленный больничный даёт работнику право получить пособие по временной нетрудоспособности...
07 08 2026 4:20:50
И сначала казалось, что в этом виде спорта у Челси нет никакого будущего...
06 08 2026 4:39:39
Кроме того, этот тропический фрукт прекрасно выравнивает цвет лица...
05 08 2026 19:12:59
К чему снится Благосклонность: толкование по 100 авторамБлагосклонность к чему снитсяБлагосклонность — благосклонность выражать человеку – в жизни что-то потеряете...
04 08 2026 22:47:33
И теперь эти страны, в частности Латвия, не утратили своей привлекательности: страна вошла в ЕС, выдает шенгенские визы, демонстрирует приличный уровень жизни, кроме того, здесь проживает множество людей, владеющих русским языком...
03 08 2026 18:49:28
Чтобы доставить ребёнку радость, не отбить в нём желание экспериментировать и моделировать мир под себя, но при этом сделать так, что чадо не могло наносить постоянно брешь в бюджет, можно подарить ребёнку конструктор...
02 08 2026 12:31:39
Важно вовремя остановиться и напомнить себе, что последствия подобных действий могут серьезно ударить по вашему здоровью или материальному положению...
01 08 2026 23:25:49
Основные нюансы трудового договораПрава и обязанности наёмного работника...
31 07 2026 5:49:34
современное прозвище Ботало в Кемеровской области, данное тому, кто говорит много и громко)...
30 07 2026 17:39:29
На женщину в шляпе оглядываются с явным удивлением все прохожие, а между тем ещё полвека назад изумление вызывало появление на улице без головного убора...
29 07 2026 17:42:17
Этот раздел затрагивает специфику жизненного пути личности, её трудных жизненных ситуаций и кризисных периодов...
28 07 2026 23:41:46
Содержание статьи:Проведение торжественной частиМальчики и дeвoчки готовятся к главному на данный момент событию в их жизни очень тщательно...
27 07 2026 7:57:12
Типы бандеролей бывают следующие: простые бандероли, заказные и с объявленной ценностью...
26 07 2026 11:52:40
В этот период можно заложить фундамент для счастливого и обеспеченного будущего...
25 07 2026 14:32:49
Согласно постановлению президента РФ ежегодно это торжество отмечается в последние выходные июля...
24 07 2026 6:50:11
9EПредлагая путешествие по Германии, многочисленные туристические агентства обращают внимание своих посетителей на маршрут под названием «Немецкая дорога сказок»...
23 07 2026 20:29:14
К чему снится Ветка: толкование по 100 авторамСонник XXI векаВетка во сне к чему снится сновидцуВетка – Держать во сне ветку в руках – к скорой перемене в делах, если она с плодами и зелеными листьями – к богатству и прекрасно проведенному времени в кругу друзей...
22 07 2026 3:10:22
Содержание статьи:Кто такая Мария Монтессори?Основательницей известной на весь мир методики воспитания была Мария Монтессори – педагог и первая женщина, освоившая профессию врача в Италии...
21 07 2026 1:44:19
Еще:
законы -1 :: законы -2 :: законы -3 :: законы -4 :: законы -5 :: законы -6 :: законы -7 :: законы -8 :: законы -9 :: законы -10 :: законы -11 :: законы -12 :: законы -13 :: законы -14 :: законы -15 :: законы -16 :: законы -17 :: законы -18 :: законы -19 :: законы -20 :: законы -21 :: законы -22 :: законы -23 :: законы -24 :: законы -25 :: законы -26 :: законы -27 :: законы -28 :: законы -29 :: законы -30 :: законы -31 :: законы -32 :: законы -33 :: законы -34 :: законы -35 :: законы -36 :: законы -37 ::
