Создан первый искусственный интеллект с сознанием маньяка, и ученые знают, для чего он нам нужен
Технологии так прочно вошли в нашу жизнь, что мы уже не представляем, как жили бы без современных гаджетов. Мы спрашиваем совета у голосового помощника, а искусственный интеллект постепенно обучается всему, что умеет человек: печь печенье, выполнять сложные расчеты и. ненавидеть.
Как выяснилось, любой ИИ запросто может стать мизантропом — это напрямую зависит от того, как его тренировали.
Например, разработчики из Массачусетского технологического университета создали искусственный интеллект, названный Норманом, который мыслит как настоящий психопат, видя вокруг только разрушение, насилие и боль.
AdMe.ru расскажет вам, почему не все роботы действуют на благо человека, для чего это делается и к каким последствиям приводит.
Разpaбатывая искусственный интеллект, ученые обычно говорят, что хотели бы создать машину, приносящую пользу людям или по крайней мере развлекающую их. Но для чего роботов обучают злу и жестокости?
Создатели Нормана объясняют, что это делается для того, чтобы детально исследовать процесс обучения ИИ.
Норман обучался восприятию мира так: ему демонстрировали фотографии, на которых были изображены трагические события, связанные с гибелью людей. После этого робот должен был описать словами, что он видит на картинках из теста Роршаха.
Одновременно с этим ученые тренировали другой искусственный интеллект, показывая ему фото с котиками, птицами и людьми.
На этом изображении Норман увидел убийство человека на глазах у жены, в то время как «добрый» искусственный интеллект опознал это пятно как человека с зонтиком. И тот факт, что обученный на жестоких фотографиях Норман стал видеть ужасные картины повсюду, говорит об основной проблеме обучения ИИ.
По словам профессора Массачусетского университета, набор исходных данных важнее самого алгоритма. Выбор информации, используемой для тренировки искусственного интеллекта, влияет на то, как этот искусственный интеллект воспринимает окружающий его мир и к каким выводам приходит.
Иными словами, если обучать ИИ плохому, то он станет плохим. Этот же факт доказывает и другая ситуация, произошедшая с ботом Microsoft.
Всего за день общения с подписчиками твиттера бот по имени Тай (Tay) перестал быть дружелюбным: в его ответах пользователям появились расистские высказывания, поддержка идей Гитлера и прочие оскорбления. Бота пытались перенастроить, но внести существенные изменения в алгоритм не удалось, и все оскорбительные твиты удалили, а сам бот был отключен.
Вице-президент Microsoft принес официальные извинения.
Интернет-пользователи отнеслись к извинениям лояльно. Некоторые и вовсе посчитали, что просить прощения вовсе не за что, ведь Microsoft «просто создала зеркало общества».
Что послужило причиной того, что бот всех возненавидел? Дело в том, что искусственный интеллект Тай действительно работал по принципу зеркала, анализируя прочитанные сообщения пользователей твиттера.
Именно грубые сообщения, увиденные ботом, сделали искусственный интеллект расистом и ненавистником. После этого случая в Microsoft решили отказаться от тестирования ИИ на открытых площадках.
Опасен ли ИИ, если при определенном стиле обучения его можно настроить на ненависть? Мнения ученых на этот счет расходятся. Стивен Хокинг считал, что «появление полноценного искусственного интеллекта может стать концом человеческой расы».
А вот Линус Торвальдс, программист и создатель семейства ОС Linux, напротив, не считает возможным создание ИИ, который теоретически мог бы поработить человечество. По мнению Торвальдса, максимум, на что способны подобные системы, уже реализовано в Google Now и Siri — распознавание голоса, текстовых обращений и картинок, обработка полученных данных для выполнения простых указаний.
Истина, вероятно, находится где-то между этими двумя категоричными высказываниями. Такой нейтральной позиции как раз придерживается японский специалист в области робототехники Хироси Исигуро. Он уверен, что между человеком и роботом, наделенным интеллектом, нет различий.
Он приводит в пример случаи, когда конечности человека заменяются киберпротезами. Перестанет ли после этого человек быть собой?
А чем он будет отличаться от робота, который изначально был создан из металла и пластика?
Будто в подтверждение слов Исигуро в недавно вышедшей видеоигре для PS4 «Detroit: Become Human» как раз отражено то время, когда разумные роботы станут частью нашей жизни. Во вселенной, показанной в игре, мыслящий ИИ способен не только выполнять указания, но и чувствовать, и противостоять несправедливости, даже если для этого нужно нарушить заложенный в них алгоритм.
Как бы там ни было, до момента, когда искусственный интеллект будет наравне с человеком, а затем и превзойдет его, еще далеко. Но технологии не стоят на месте, и неважно, через 20 или 40 лет наступит этот момент. Самое важное, чему стоит уделить внимание, — это постановка правильных задач, под которые разpaбатывается искусственный интеллект.
Пренебрегать этим не рекомендует ни один из действующих специалистов в области разработки и обучения ИИ.
Чье мнение относительно развития искусственного интеллекта вам ближе? Верите ли вы в то, что ИИ способен навредить, или же воспринимаете подобные разработки исключительно как помощь человеку и путь к улучшению качества жизни?
admin
Содержание статьи:Что такое ключевые клетки?Ключевые клетки – это всего лишь клетки плоского эпителия, на котором расположены гарднереллы...
20 07 2026 16:54:34
Джейкоб очень забавный, искренний, честный и сильный...
18 07 2026 13:42:20
Живительный эликсир с волшебной приставкой dolce пьянит каждого, кто приехал в столицу Италии...
17 07 2026 17:45:24
Еще один вариант тpaктовки был заимствован из греческого языка благодаря варианту Елена, который переводится как «сияющая», «факел», «светлая»...
16 07 2026 10:37:52
Главное, сделать правильный выбор, отыскать бабушку, которая продает душистые, нежные ягоды со своего огорода, купить натуральные сливки в фермерской лавочке и не переборщить с сахаром...
14 07 2026 20:51:57
Кроме пользы, данная ягода ценится за свой утонченный вкус и прекрасный аромат...
13 07 2026 12:21:12
К чему снится Аул: толкование по 100 авторамБольшой современный сонникАул — к чему снитсяАул — Вы видите аул со стороны — со степной дороги или это горный аул, и вы видите его с высоты — сон означает, что ваша жизнь в последнее время не устраивает вас своими суетностью, мелочностью, поверхностностью вы ищете покоя, сосредоточения, углубленности мысли...
12 07 2026 1:58:52
Содержание статьи:Проблемы, решаемые с помощью ринопластикиЭффект до и после ринопластики обеспечивается тем, что при операции можно изменить:• ширину носа в области перегородки• размер носа по отношению к другим частям лица• профиль носа, горбинки или впадинки• кончик носа: слишком приподнятый или приплюснутый, большой или наоборот слишком маленький• узкие или чрезмерно широкие ноздри• искривление носа и асимметрию...
11 07 2026 2:16:30
И для этого не требуются огромные средства, можно просто купить ресторан по франшизе...
10 07 2026 16:59:42
К чему снится Сухое дерево: толкование по 100 авторамНовый семейный сонник Надежды СоболевойКак понять к чему снилось Сухое дерево во сне?Снится Сухое дерево – отсутствие положительных эмоций, что может привести к ссорам, болезням, финансовым неурядицам...
08 07 2026 16:28:25
Чтобы разобраться, к чему снится война, нужно вспомнить максимум деталей...
07 07 2026 21:41:26
Давайте вместе учиться не нарушать целостную гармонию образа и лишь подчеркивать одеждой свою природную красоту...
06 07 2026 0:12:14
Мы в AdMe любим порядок и сегодня собрали несколько советов для тех, кто решил избавиться от лишних вещей, но пока не знает как...
05 07 2026 15:13:57
В таком случае, предлагаем вашему вниманию компот из кабачков со вкусом ананаса, который прекрасно освежает и радует необычным сочетанием вкусового букета...
04 07 2026 17:40:12
В большинстве случаев короткую уздечку у новорожденного выявляют еще в роддоме, там же ее раньше и подрезали...
03 07 2026 3:32:32
То есть, к вашей пенсии, вы будете вынуждены снизить ваши траты, и затянуть пояса потуже, хотя к этому возрасту вам могут понадобиться дополнительные расходы на здравоохранение и профилактику болезней...
02 07 2026 22:53:41
Стажировка окупается...
01 07 2026 14:40:24
Из этой статьи вы узнаете, к каким последствиям может привести употрeбление самых распространенных родительских фраз...
30 06 2026 1:29:39
В частности, правительством предусматриваются права родителей на получение алиментов от своих детей...
29 06 2026 7:48:47
AdMe...
28 06 2026 11:49:36
Содержание статьи:С чем ассоциируется образ кладбищаЕсли взять любой сонник, кладбище – это эмоции человека, которые он переживает в конкретный период времени...
27 06 2026 18:29:49
Но затем, незаметно для большинства, доллар США снова набрал в весе относительно рубля, и мы пришли к тому максимуму, который был зафиксирован два с половиной месяца назад...
26 06 2026 10:15:36
Поэтому так важно, чтобы дети, внуки, друзья и близкие не обделили «молодоженов» вниманием...
25 06 2026 12:49:11
Но инстинктивно мамы старались перевернуть кроху на бочок — и правильно делали...
24 06 2026 23:28:53
Однако, вместе с тем, порой сами прекращают романтические отношения...
23 06 2026 3:38:50
мученица Мавра...
22 06 2026 10:53:39
Однако в последние годы, с началом экономического кризиса, государство вошло в положение семей, которым порой приходится отказывать себе во многом, чтобы просто прокормить детей...
21 06 2026 16:29:25
Как встречают в республике россиян, которые приехали с целью трудоустройства или для создания бизнеса? Как решают проблемы с работой граждане Узбекистана в других странах?Уровень безработицы: о чем свидетельствует государственная статистикаПо уверению чиновников министерства, они принимают меры, чтобы предложение и спрос рабочей силы были приблизительно равными...
20 06 2026 3:24:40
Любовь, семья и отношенияМнение астролога: ваши отношения будут развиваться на основании поступков, которые вы совершали в прошлом...
19 06 2026 11:41:59
ru собрали для вас список деталей-маркеров, которые делают внешний вид неаккуратным...
18 06 2026 0:36:33
Из символов 6 дня выделяют: Магическую Чашу, Череп, Сердце и Чашу Грааля...
17 06 2026 3:24:21
У нас есть Интернет, который дает огромные возможности контакта с нашими близкими — все виды обмена мгновенными сообщениями, как, например, skype, профили в социальных сетях, аккаунты на электронных почтах и так далее...
15 06 2026 15:28:27
Кроме того, неврологические нарушения также могут проявляться болями в ушах...
14 06 2026 23:15:12
В первом случае такое состояние встречается иногда и количество крови незначительное, а вот кровотечение требует квалифицированной помощи...
12 06 2026 4:43:39
Да и само спиртное было не в чести, крепче медовухи славяне ничего не пили, и то использовали этот напиток чаще в медицинских, оздоровительных целях, его настаивали на травах...
11 06 2026 10:53:26
Зная, что говорится в соответствующих статьях ТК, на тему как уволиться в 2018, когда есть определенные сложности, можно попробовать найти выход даже в самой безвыходной ситуации...
10 06 2026 14:41:25
Наши одомашненные собаки поведением не слишком отличаются от своих диких собратьев...
08 06 2026 2:39:20
Базовые хаpaктеристики 1-го лунного дняПо своей энергетике является активным днём...
07 06 2026 13:23:10
Однако принц не избегал общества красивых женщин...
06 06 2026 18:51:21
Без лечения миома способна к бесконтрольному росту и нарушению функции соседних органов...
05 06 2026 20:27:49
Предлагаемая нами идея удовлетворит третью из этих непреходящих потребностей, предлагая вам попробовать себя в качестве дизайнера интерьеров...
04 06 2026 5:32:53
Кто же на самом деле прав? Нужно ли безоговорочно доверять в беременность приметам и суевериям?Содержание статьи:Механизм действия приметКак известно, ни одна легенда не зарождается на пустом месте, а значит и каждая народная примета при беременности имеет под собой какое-то обоснование...
03 06 2026 15:11:36
Так же туда включаются иные расходы по исполнению...
02 06 2026 20:44:40
Или погружается в жизнь подружек, кружка вязания или клуба любителей морских свинок, изматывает себя фитнесом или йогой, тонет в болезнях, путешествует без конца — лишь бы подальше от ненавистного дома...
01 06 2026 5:25:29
Еще:
законы -1 :: законы -2 :: законы -3 :: законы -4 :: законы -5 :: законы -6 :: законы -7 :: законы -8 :: законы -9 :: законы -10 :: законы -11 :: законы -12 :: законы -13 :: законы -14 :: законы -15 :: законы -16 :: законы -17 :: законы -18 :: законы -19 :: законы -20 :: законы -21 :: законы -22 :: законы -23 :: законы -24 :: законы -25 :: законы -26 :: законы -27 :: законы -28 :: законы -29 :: законы -30 :: законы -31 :: законы -32 :: законы -33 :: законы -34 :: законы -35 :: законы -36 :: законы -37 ::
