Создан первый искусственный интеллект с сознанием маньяка, и ученые знают, для чего он нам нужен
Технологии так прочно вошли в нашу жизнь, что мы уже не представляем, как жили бы без современных гаджетов. Мы спрашиваем совета у голосового помощника, а искусственный интеллект постепенно обучается всему, что умеет человек: печь печенье, выполнять сложные расчеты и. ненавидеть.
Как выяснилось, любой ИИ запросто может стать мизантропом — это напрямую зависит от того, как его тренировали.
Например, разработчики из Массачусетского технологического университета создали искусственный интеллект, названный Норманом, который мыслит как настоящий психопат, видя вокруг только разрушение, насилие и боль.
AdMe.ru расскажет вам, почему не все роботы действуют на благо человека, для чего это делается и к каким последствиям приводит.
Разpaбатывая искусственный интеллект, ученые обычно говорят, что хотели бы создать машину, приносящую пользу людям или по крайней мере развлекающую их. Но для чего роботов обучают злу и жестокости?
Создатели Нормана объясняют, что это делается для того, чтобы детально исследовать процесс обучения ИИ.
Норман обучался восприятию мира так: ему демонстрировали фотографии, на которых были изображены трагические события, связанные с гибелью людей. После этого робот должен был описать словами, что он видит на картинках из теста Роршаха.
Одновременно с этим ученые тренировали другой искусственный интеллект, показывая ему фото с котиками, птицами и людьми.
На этом изображении Норман увидел убийство человека на глазах у жены, в то время как «добрый» искусственный интеллект опознал это пятно как человека с зонтиком. И тот факт, что обученный на жестоких фотографиях Норман стал видеть ужасные картины повсюду, говорит об основной проблеме обучения ИИ.
По словам профессора Массачусетского университета, набор исходных данных важнее самого алгоритма. Выбор информации, используемой для тренировки искусственного интеллекта, влияет на то, как этот искусственный интеллект воспринимает окружающий его мир и к каким выводам приходит.
Иными словами, если обучать ИИ плохому, то он станет плохим. Этот же факт доказывает и другая ситуация, произошедшая с ботом Microsoft.
Всего за день общения с подписчиками твиттера бот по имени Тай (Tay) перестал быть дружелюбным: в его ответах пользователям появились расистские высказывания, поддержка идей Гитлера и прочие оскорбления. Бота пытались перенастроить, но внести существенные изменения в алгоритм не удалось, и все оскорбительные твиты удалили, а сам бот был отключен.
Вице-президент Microsoft принес официальные извинения.
Интернет-пользователи отнеслись к извинениям лояльно. Некоторые и вовсе посчитали, что просить прощения вовсе не за что, ведь Microsoft «просто создала зеркало общества».
Что послужило причиной того, что бот всех возненавидел? Дело в том, что искусственный интеллект Тай действительно работал по принципу зеркала, анализируя прочитанные сообщения пользователей твиттера.
Именно грубые сообщения, увиденные ботом, сделали искусственный интеллект расистом и ненавистником. После этого случая в Microsoft решили отказаться от тестирования ИИ на открытых площадках.
Опасен ли ИИ, если при определенном стиле обучения его можно настроить на ненависть? Мнения ученых на этот счет расходятся. Стивен Хокинг считал, что «появление полноценного искусственного интеллекта может стать концом человеческой расы».
А вот Линус Торвальдс, программист и создатель семейства ОС Linux, напротив, не считает возможным создание ИИ, который теоретически мог бы поработить человечество. По мнению Торвальдса, максимум, на что способны подобные системы, уже реализовано в Google Now и Siri — распознавание голоса, текстовых обращений и картинок, обработка полученных данных для выполнения простых указаний.
Истина, вероятно, находится где-то между этими двумя категоричными высказываниями. Такой нейтральной позиции как раз придерживается японский специалист в области робототехники Хироси Исигуро. Он уверен, что между человеком и роботом, наделенным интеллектом, нет различий.
Он приводит в пример случаи, когда конечности человека заменяются киберпротезами. Перестанет ли после этого человек быть собой?
А чем он будет отличаться от робота, который изначально был создан из металла и пластика?
Будто в подтверждение слов Исигуро в недавно вышедшей видеоигре для PS4 «Detroit: Become Human» как раз отражено то время, когда разумные роботы станут частью нашей жизни. Во вселенной, показанной в игре, мыслящий ИИ способен не только выполнять указания, но и чувствовать, и противостоять несправедливости, даже если для этого нужно нарушить заложенный в них алгоритм.
Как бы там ни было, до момента, когда искусственный интеллект будет наравне с человеком, а затем и превзойдет его, еще далеко. Но технологии не стоят на месте, и неважно, через 20 или 40 лет наступит этот момент. Самое важное, чему стоит уделить внимание, — это постановка правильных задач, под которые разpaбатывается искусственный интеллект.
Пренебрегать этим не рекомендует ни один из действующих специалистов в области разработки и обучения ИИ.
Чье мнение относительно развития искусственного интеллекта вам ближе? Верите ли вы в то, что ИИ способен навредить, или же воспринимаете подобные разработки исключительно как помощь человеку и путь к улучшению качества жизни?
admin
Маленькие дети по природе своей четко помнят только то, что их удивило, выбило из колеи, и чаще это, увы, какие-то негативные моменты, когда тебя раз в жизни наказали несправедливо или сказали отстань, я устала...
04 06 2026 4:48:24
И снова пара слов о совпадениях — на этот раз календарных...
03 06 2026 10:57:15
Поэтому симптомы беременности на первой неделе – это штука весьма мифическая...
02 06 2026 19:44:13
Почему так случается при таком, казалось бы, завидном единомыслии и единодушии?Василий и Елена поженились сразу после получения дипломов в институте, где изучали общую и горячо любимую специальность...
01 06 2026 6:26:31
Анализируя значение имени Йорно с точки зрения его происхождения, исследователи часто говорят о том, что оно является формой древнегреческого варианта Ге opгиус – «землевладелец»...
30 05 2026 11:43:48
ru убеждены, что это не только отличный способ избавиться от мусора и получить за это приятный подарок, но и возможность внести свой вклад в сохранение окружающей среды...
29 05 2026 10:37:44
Некоторые традиции прошлого канули в Лету, а некоторые все так же щепетильно соблюдаются молодоженами...
28 05 2026 5:25:38
Возможны проблемы в обществе, с друзьями, сбои в сердечно-сосудистой системе...
27 05 2026 17:59:43
Довольно длинные (1 см), но прямые...
26 05 2026 7:42:52
Если же говорить о последствиях курения, то, по мнению 22%, они неизвестны, 35% опрошенных заявили об опасности возникновения paка легких, 25% респондентов указали на бронхит и прочие недуги дыхательной системы...
25 05 2026 7:22:25
Данная программа была запущена в 2007 году...
24 05 2026 16:47:41
К чему снится Борода: толкование по 100 авторамСонник XXI векаБорода во сне к чему снится сновидцуБорода – Иметь во сне бороду – к прибыли, черную – к неожиданности, рыжую – к неприятности, седую – к большой чести, уважению, если ваша борода поседела – значит, в действительности вам будет не хватать элементарного чувства справедливости, которого потребуют от вас обстоятельства...
23 05 2026 17:17:11
ru восхищены уникальными работами Сигалит и спешим рассказать вам о них подробнее...
22 05 2026 1:48:34
Виды и особенности наследованияРазбирая процесс наследования, следует отталкиваться от разных типов наследования, так как механизм открытия наследства будет для них разниться...
21 05 2026 15:28:42
Сегодня вас ждут и веселье и шутки...
20 05 2026 16:42:34
В данной статье мы расскажем:Как написать отчет по пpaктике, чтобы он устроил руководителя, и его не нужно было переделывать...
19 05 2026 21:32:20
Невозможно не восхищаться тем разнообразием природы, которое можно встретить в этом удивительном и, без преувеличения сказать, сказочном национальном парке: прозрачные разноцветные озера, многоуровневые стремительные водопады, нетронутые рукой человека леса, многочисленные редкие виды животных и птиц...
18 05 2026 0:37:47
К моменту стальной свадьбы у супругов уже появится умение проявлять друг к другу большое уважение и взаимопонимания, уже не обращается никакое внимание на слабости и недостатки друг друга...
17 05 2026 13:27:57
Садясь на диету, мы часто думаем только о том, как поскорее согнать со своего тела лишние складочки, забывая, что для физического и психического здоровья нам необходим целый спектр важных микроэлементов, которые нельзя исключать из рациона...
16 05 2026 18:45:29
Узнаем, сколько будет стоить электроэнергия с 1 июля 2020 года в различных российских регионах, насколько выросли тарифы на электричество...
15 05 2026 19:30:10
Содержание статьи:Заинтересованность и уверенностьОбеспечить вниманием и искренним интересом каждый самый маленький диалог со своим ребёнком – вот ключ к позитивной самооценке и развитию ребёнка...
14 05 2026 13:29:44
Бывает трудно установить проблему слёз и криков малыша и иногда складывается впечатление, что капризы совершенно необоснованные...
13 05 2026 7:40:53
Хотите полюбоваться на праведный гнев? Смешайте Skittles и MM’s...
12 05 2026 8:52:15
Когда стоит готовиться к тому, что человека обяжут выплачивать деньги за другого члeна семьи, рассмотрим далее...
11 05 2026 10:47:24
Рожденные 19 февраля обычно достаточно пpaктичны, внимательны и прочно стоят на ногах...
10 05 2026 23:24:55
Но чтобы бег был не только полезным, но и безопасным нужно следовать простым правилам...
09 05 2026 22:22:12
начинают ждать, как это было в той рекламе пива (Heineken — And Now We Wait ...
08 05 2026 7:43:45
Однако последние новости об изменениях, вступающих в действие с 2019 года, вероятнее всего, повлияют на юридических лиц и ИП, перешедших на ЕСХН не в лучшую сторону...
07 05 2026 14:44:38
Лечение горла при беременности требует особого подхода, так как многие лекарственные средства могут оказывать негативное воздействие на плод и вызывать ряд осложнений (например, стимулировать преждевременную родовую деятельность)...
06 05 2026 2:51:34
Сразу оговорюсь, что речь идёт об обычных, в меру здоровых женщинах...
05 05 2026 22:41:57
К чему снится Астроном: толкование по 100 авторамБольшая энциклопедия сновСмысл сна, в котором снится АстрономАстроном — Астроном, рассказывающий о звездном небе, — знак чьей-то неискренности по отношению к вам, в которой придется убедиться...
04 05 2026 13:36:35
Пирамида Волшебника в УшмалеПолуостров Юкатан, поросший тропическим лесом, стал сводом для 4000 подземных пещер, связанных между собой подземными речушками...
03 05 2026 3:39:53
Давайте рассмотрим каждый из них...
02 05 2026 7:36:39
Выбор даты 25 декабря может быть обусловлен тем, что на этот день приходился солярный праздник Рождения Солнца Непобедимого в Риме, который немного трaнcформировался после того, как итальянцы приняли христианство...
01 05 2026 18:57:29
К чему снится Азия: толкование по 100 авторамК чему снится Азия во снеАзия – Сон, в котором вы путешествуете по Азии, – верный знак грядущих перемен, однако не ждите никаких финансовых улучшений...
30 04 2026 22:34:50
Bon Appetit!Какой к вечеринке придумать дресс-код? «Гламурки», романтика, полный улёт!Фланелевая пижамка и ночнушечка? Не всё так просто! Танцуйте и бейте в бубен оригиналы, маргиналы и прочие неординарные личности...
29 04 2026 0:13:47
Выбор методики зависит от вида, хаpaктера течения, финансовых возможностей пациентки...
28 04 2026 8:56:16
Для маленького ребенка необходимо приобретать одежду, мебель, игрушки, лекарственные средства и очень много других необходимых вещей...
27 04 2026 6:16:36
В контексте жалобы на незаконную перепланировку есть два случая...
26 04 2026 7:20:36
Знак Скорпиона предполагает умение сохранять стабильность развития в любых условиях...
25 04 2026 1:33:15
Во второй день периода активизируется общественная сфера и коллективные энергии, которые рано или поздно приведут к стрессам и невеселым мыслям...
24 04 2026 21:16:43
Осложняется ситуация тем, что те препараты, которые используют обычно с целью облегчения симптомов простуды, во время ожидания малыша принимать крайне нежелательно...
23 04 2026 8:14:54
В теплом помещении из них появляются насекомые, которые быстро размножаются...
21 04 2026 5:28:31
Большинство людей отмечают день рождения на работе...
20 04 2026 11:30:13
Итак, со скольки лет можно взять ипотеку в России? На сегодняшний день для желающих взять в банке кредиту установлена возрастная планка – от 18 до 75 лет...
18 04 2026 9:45:22
К чему снится Воздержание: толкование по 100 авторамСонник Странника (Терентия Смирнова)Толкование Воздержания из вашего снаЧитайте еще: к чему снится сон по дню от новолуния, к чему снится сновидение по часам, к чему снится образ по лунным суткам...
17 04 2026 13:47:32
Можно выделить пять часто встречающихся стереотипов:«Сумки должны быть только из натуральной кожи либо замши...
16 04 2026 13:25:29
Еще:
законы -1 :: законы -2 :: законы -3 :: законы -4 :: законы -5 :: законы -6 :: законы -7 :: законы -8 :: законы -9 :: законы -10 :: законы -11 :: законы -12 :: законы -13 :: законы -14 :: законы -15 :: законы -16 :: законы -17 :: законы -18 :: законы -19 :: законы -20 :: законы -21 :: законы -22 :: законы -23 :: законы -24 :: законы -25 :: законы -26 :: законы -27 :: законы -28 :: законы -29 :: законы -30 :: законы -31 :: законы -32 :: законы -33 :: законы -34 :: законы -35 :: законы -36 :: законы -37 ::
20 фильмов, которым зрители поставили высший балл