Создан первый искусственный интеллект с сознанием маньяка, и ученые знают, для чего он нам нужен
Технологии так прочно вошли в нашу жизнь, что мы уже не представляем, как жили бы без современных гаджетов. Мы спрашиваем совета у голосового помощника, а искусственный интеллект постепенно обучается всему, что умеет человек: печь печенье, выполнять сложные расчеты и. ненавидеть.
Как выяснилось, любой ИИ запросто может стать мизантропом — это напрямую зависит от того, как его тренировали.
Например, разработчики из Массачусетского технологического университета создали искусственный интеллект, названный Норманом, который мыслит как настоящий психопат, видя вокруг только разрушение, насилие и боль.
AdMe.ru расскажет вам, почему не все роботы действуют на благо человека, для чего это делается и к каким последствиям приводит.
Разpaбатывая искусственный интеллект, ученые обычно говорят, что хотели бы создать машину, приносящую пользу людям или по крайней мере развлекающую их. Но для чего роботов обучают злу и жестокости?
Создатели Нормана объясняют, что это делается для того, чтобы детально исследовать процесс обучения ИИ.
Норман обучался восприятию мира так: ему демонстрировали фотографии, на которых были изображены трагические события, связанные с гибелью людей. После этого робот должен был описать словами, что он видит на картинках из теста Роршаха.
Одновременно с этим ученые тренировали другой искусственный интеллект, показывая ему фото с котиками, птицами и людьми.
На этом изображении Норман увидел убийство человека на глазах у жены, в то время как «добрый» искусственный интеллект опознал это пятно как человека с зонтиком. И тот факт, что обученный на жестоких фотографиях Норман стал видеть ужасные картины повсюду, говорит об основной проблеме обучения ИИ.
По словам профессора Массачусетского университета, набор исходных данных важнее самого алгоритма. Выбор информации, используемой для тренировки искусственного интеллекта, влияет на то, как этот искусственный интеллект воспринимает окружающий его мир и к каким выводам приходит.
Иными словами, если обучать ИИ плохому, то он станет плохим. Этот же факт доказывает и другая ситуация, произошедшая с ботом Microsoft.
Всего за день общения с подписчиками твиттера бот по имени Тай (Tay) перестал быть дружелюбным: в его ответах пользователям появились расистские высказывания, поддержка идей Гитлера и прочие оскорбления. Бота пытались перенастроить, но внести существенные изменения в алгоритм не удалось, и все оскорбительные твиты удалили, а сам бот был отключен.
Вице-президент Microsoft принес официальные извинения.
Интернет-пользователи отнеслись к извинениям лояльно. Некоторые и вовсе посчитали, что просить прощения вовсе не за что, ведь Microsoft «просто создала зеркало общества».
Что послужило причиной того, что бот всех возненавидел? Дело в том, что искусственный интеллект Тай действительно работал по принципу зеркала, анализируя прочитанные сообщения пользователей твиттера.
Именно грубые сообщения, увиденные ботом, сделали искусственный интеллект расистом и ненавистником. После этого случая в Microsoft решили отказаться от тестирования ИИ на открытых площадках.
Опасен ли ИИ, если при определенном стиле обучения его можно настроить на ненависть? Мнения ученых на этот счет расходятся. Стивен Хокинг считал, что «появление полноценного искусственного интеллекта может стать концом человеческой расы».
А вот Линус Торвальдс, программист и создатель семейства ОС Linux, напротив, не считает возможным создание ИИ, который теоретически мог бы поработить человечество. По мнению Торвальдса, максимум, на что способны подобные системы, уже реализовано в Google Now и Siri — распознавание голоса, текстовых обращений и картинок, обработка полученных данных для выполнения простых указаний.
Истина, вероятно, находится где-то между этими двумя категоричными высказываниями. Такой нейтральной позиции как раз придерживается японский специалист в области робототехники Хироси Исигуро. Он уверен, что между человеком и роботом, наделенным интеллектом, нет различий.
Он приводит в пример случаи, когда конечности человека заменяются киберпротезами. Перестанет ли после этого человек быть собой?
А чем он будет отличаться от робота, который изначально был создан из металла и пластика?
Будто в подтверждение слов Исигуро в недавно вышедшей видеоигре для PS4 «Detroit: Become Human» как раз отражено то время, когда разумные роботы станут частью нашей жизни. Во вселенной, показанной в игре, мыслящий ИИ способен не только выполнять указания, но и чувствовать, и противостоять несправедливости, даже если для этого нужно нарушить заложенный в них алгоритм.
Как бы там ни было, до момента, когда искусственный интеллект будет наравне с человеком, а затем и превзойдет его, еще далеко. Но технологии не стоят на месте, и неважно, через 20 или 40 лет наступит этот момент. Самое важное, чему стоит уделить внимание, — это постановка правильных задач, под которые разpaбатывается искусственный интеллект.
Пренебрегать этим не рекомендует ни один из действующих специалистов в области разработки и обучения ИИ.
Чье мнение относительно развития искусственного интеллекта вам ближе? Верите ли вы в то, что ИИ способен навредить, или же воспринимаете подобные разработки исключительно как помощь человеку и путь к улучшению качества жизни?
adminСубъективная оценка, впрочем, может мешать финансовому обороту...
24 10 2026 14:57:53
ru заранее подготовили список сериалов, отлично подходящих для недолгого ленивого счастья, которое случается только раз в году...
23 10 2026 17:34:15
Как выбрать музыку на свадьбуВ плане подготовки к свадебному торжеству выбор звукового сопровождения должен занять свое важное место...
21 10 2026 6:28:42
Сама императрица Екатерина Великая любила баловать свою кожу, и каждое утро протирала лицо кубиками льда, которые ей приносили слуги на серебряном подносе (основой для них служили отвары из листьев мяты и цветков ромашки)...
20 10 2026 9:43:17
Что делать при наличии мусора соседа на своей территорииПериодически мусор от соседей попадает на другие земельные участки...
19 10 2026 5:58:27
Прохождение тестирования на вид на жительство производится согласно с правилами и требует от иностранного гражданина тщательной подготовки...
18 10 2026 19:44:30
919 г (диметикон 350 : кремния диоксид, в соотношении 92...
17 10 2026 6:35:59
Будет интересно!Какой ваш китайский знак Зодиака?Китайский зодиак (с китайского «Шэн сяо» фактически переводится как «похожий на рождение»)...
16 10 2026 6:40:45
Оно славится тем, что здесь живет около двух миллионов медуз...
15 10 2026 21:27:21
И чтобы не попасться, нужно знать, какую информацию можно, а какую не стоит публиковать в сети...
14 10 2026 14:47:50
Стрижка – дело житейское, но всегда неприятное, потому что надо сидеть смирно, везде колет от состриженных волос, и ножницы над ухом угрожающе стрекочут...
13 10 2026 21:17:34
Этот способ не только сэкономит ваше драгоценное время, но и позволит провести больше времени в кругу семьи, не отвлекаясь на поездки в государственные организации...
11 10 2026 23:16:19
— Анна, в 23 года Вы стали главным редактором...
10 10 2026 15:59:32
Впрочем, не всё так просто…Святая великомученица Варвара жила в царствование Максимиана, в III веке...
09 10 2026 22:35:12
При этом многих женщин мучают одни и те же вопросы: как отрастить ресницы быстро, как восстановить их и сделать толще, как отрастить ресницы в домашних условиях, или куда обратиться с этой проблемой и что использовать, как отрастить длинные ресницы и т...
08 10 2026 16:59:29
Ученые исследовали и другие показатели, которые влияют на привлекательность мужчин и женщин...
07 10 2026 1:42:54
Чтобы помочь малышу избавиться от неприятных ощущений можно покрутить ладошкой по животу и сделать незначительную гимнастику ножками...
06 10 2026 2:53:27
Тогда и рождаются «шедевры», подобные тем, что представлены в нашей подборке...
05 10 2026 13:11:35
Чтобы выяснить, почему немеют руки при беременности, необходимо, прежде всего, диагностировать, нет ли у женщины скрытых заболеваний...
03 10 2026 23:15:28
Сказочное творение, которое создала сама природа, расположено в Южной Америке в одном из самых глубоких озер мира — Буэнос-Айресе...
02 10 2026 13:55:39
Разберемся в их взаимоотношениях подробнее...
01 10 2026 15:30:12
Такое мнение является ошибочным...
30 09 2026 4:29:20
Сведения из неё заносятся в базу данных и служат подтверждением легальности въезда...
29 09 2026 16:26:11
Некоторые хотят уехать на заработки, зарплата многих сотрудников здесь достаточно большая...
28 09 2026 13:27:30
Совместимость в любвиВ принципе, Скорпион хорошо подходит Водолею, но не во всем...
27 09 2026 19:55:49
Выплаты по уходу за ребенком-инвалидом в 2018 году помогают детям, которым необходимы защита...
26 09 2026 12:24:27
ru согласен со звездами: если ты нашел что-то, что тебе идеально подходит, зачем от этого отказываться и снова пускаться в эксперименты?Зоуи ДешанельВот уж кто первый приходит на ум, когда речь заходит о постоянстве стиля, так это Зоуи...
25 09 2026 23:55:16
39-ю годовщину со дня заключения брачных уз называют креповой свадьбой, и название это довольно символично...
24 09 2026 17:41:18
ru приводит 13 фактов, которые дадут топливо мозгу и помогут расширить горизонты восприятия...
23 09 2026 0:35:45
Имеется и ряд других интересных обстоятельств, которые следует затронуть...
22 09 2026 11:44:53
ru решил узнать, что кроме пепла в шампанском может принести удачу в новом году...
21 09 2026 19:24:24
Как же произвести регистрацию прав собственности, то есть узаконить произошедшую в результате свершившегося договора перемену собственника недвижимости в глазах государства?Надо сказать, что с 1 марта 2013 года регистрация в Росреестре договоров купли-продажи квартиры в соответствии с Федеральным законом от 30...
20 09 2026 18:25:41
Именно поэтому необходимо разобраться, в чем причина такого неадекватного детского поведения, и как можно с ним бороться...
18 09 2026 6:48:21
ru сделала свой выбор и спешит рассказать о красавицах-спортсменках игр в Корее...
17 09 2026 4:17:13
В период между двадцати пяти и тридцатилетним возрастом содержание данной составляющей кожи заметно снижается, чему предшествует замедление процесса синтеза кислоты...
16 09 2026 11:53:58
Порой сил, чтобы заставить себя учиться, просто не остаётся...
13 09 2026 12:54:18
Оно имеет важнейшее значение, так как сапфир представляет собой один из самых прочных и дорогих камней на планете...
11 09 2026 23:21:40
Для поддержания уровня сахара в физиологических параметрах поджелудочная железа начинает усиленно выделять инсулин, но из-за инсулинорезистентности тканей, гипергликемия сохраняется...
10 09 2026 16:12:56
Правильно оформленный больничный даёт работнику право получить пособие по временной нетрудоспособности...
09 09 2026 17:28:44
Поэтому еще до недавнего времени День Гражданской авиации было принято отмечать во второе воскресенье февраля...
08 09 2026 15:59:35
Процедуру можно проводить в домашних условиях и существует большое количество растворов, которые снимают воспаление с глотки и гортани...
07 09 2026 22:44:36
Чтобы пройти «кастинг» на работу, нам нужно долго учится и получать высшее образование...
06 09 2026 21:19:28
Еще:
законы -1 :: законы -2 :: законы -3 :: законы -4 :: законы -5 :: законы -6 :: законы -7 :: законы -8 :: законы -9 :: законы -10 :: законы -11 :: законы -12 :: законы -13 :: законы -14 :: законы -15 :: законы -16 :: законы -17 :: законы -18 :: законы -19 :: законы -20 :: законы -21 :: законы -22 :: законы -23 :: законы -24 :: законы -25 :: законы -26 :: законы -27 :: законы -28 :: законы -29 :: законы -30 :: законы -31 :: законы -32 :: законы -33 :: законы -34 :: законы -35 :: законы -36 :: законы -37 ::
