Создан первый искусственный интеллект с сознанием маньяка, и ученые знают, для чего он нам нужен
Технологии так прочно вошли в нашу жизнь, что мы уже не представляем, как жили бы без современных гаджетов. Мы спрашиваем совета у голосового помощника, а искусственный интеллект постепенно обучается всему, что умеет человек: печь печенье, выполнять сложные расчеты и. ненавидеть.
Как выяснилось, любой ИИ запросто может стать мизантропом — это напрямую зависит от того, как его тренировали.
Например, разработчики из Массачусетского технологического университета создали искусственный интеллект, названный Норманом, который мыслит как настоящий психопат, видя вокруг только разрушение, насилие и боль.
AdMe.ru расскажет вам, почему не все роботы действуют на благо человека, для чего это делается и к каким последствиям приводит.
Разpaбатывая искусственный интеллект, ученые обычно говорят, что хотели бы создать машину, приносящую пользу людям или по крайней мере развлекающую их. Но для чего роботов обучают злу и жестокости?
Создатели Нормана объясняют, что это делается для того, чтобы детально исследовать процесс обучения ИИ.
Норман обучался восприятию мира так: ему демонстрировали фотографии, на которых были изображены трагические события, связанные с гибелью людей. После этого робот должен был описать словами, что он видит на картинках из теста Роршаха.
Одновременно с этим ученые тренировали другой искусственный интеллект, показывая ему фото с котиками, птицами и людьми.
На этом изображении Норман увидел убийство человека на глазах у жены, в то время как «добрый» искусственный интеллект опознал это пятно как человека с зонтиком. И тот факт, что обученный на жестоких фотографиях Норман стал видеть ужасные картины повсюду, говорит об основной проблеме обучения ИИ.
По словам профессора Массачусетского университета, набор исходных данных важнее самого алгоритма. Выбор информации, используемой для тренировки искусственного интеллекта, влияет на то, как этот искусственный интеллект воспринимает окружающий его мир и к каким выводам приходит.
Иными словами, если обучать ИИ плохому, то он станет плохим. Этот же факт доказывает и другая ситуация, произошедшая с ботом Microsoft.
Всего за день общения с подписчиками твиттера бот по имени Тай (Tay) перестал быть дружелюбным: в его ответах пользователям появились расистские высказывания, поддержка идей Гитлера и прочие оскорбления. Бота пытались перенастроить, но внести существенные изменения в алгоритм не удалось, и все оскорбительные твиты удалили, а сам бот был отключен.
Вице-президент Microsoft принес официальные извинения.
Интернет-пользователи отнеслись к извинениям лояльно. Некоторые и вовсе посчитали, что просить прощения вовсе не за что, ведь Microsoft «просто создала зеркало общества».
Что послужило причиной того, что бот всех возненавидел? Дело в том, что искусственный интеллект Тай действительно работал по принципу зеркала, анализируя прочитанные сообщения пользователей твиттера.
Именно грубые сообщения, увиденные ботом, сделали искусственный интеллект расистом и ненавистником. После этого случая в Microsoft решили отказаться от тестирования ИИ на открытых площадках.
Опасен ли ИИ, если при определенном стиле обучения его можно настроить на ненависть? Мнения ученых на этот счет расходятся. Стивен Хокинг считал, что «появление полноценного искусственного интеллекта может стать концом человеческой расы».
А вот Линус Торвальдс, программист и создатель семейства ОС Linux, напротив, не считает возможным создание ИИ, который теоретически мог бы поработить человечество. По мнению Торвальдса, максимум, на что способны подобные системы, уже реализовано в Google Now и Siri — распознавание голоса, текстовых обращений и картинок, обработка полученных данных для выполнения простых указаний.
Истина, вероятно, находится где-то между этими двумя категоричными высказываниями. Такой нейтральной позиции как раз придерживается японский специалист в области робототехники Хироси Исигуро. Он уверен, что между человеком и роботом, наделенным интеллектом, нет различий.
Он приводит в пример случаи, когда конечности человека заменяются киберпротезами. Перестанет ли после этого человек быть собой?
А чем он будет отличаться от робота, который изначально был создан из металла и пластика?
Будто в подтверждение слов Исигуро в недавно вышедшей видеоигре для PS4 «Detroit: Become Human» как раз отражено то время, когда разумные роботы станут частью нашей жизни. Во вселенной, показанной в игре, мыслящий ИИ способен не только выполнять указания, но и чувствовать, и противостоять несправедливости, даже если для этого нужно нарушить заложенный в них алгоритм.
Как бы там ни было, до момента, когда искусственный интеллект будет наравне с человеком, а затем и превзойдет его, еще далеко. Но технологии не стоят на месте, и неважно, через 20 или 40 лет наступит этот момент. Самое важное, чему стоит уделить внимание, — это постановка правильных задач, под которые разpaбатывается искусственный интеллект.
Пренебрегать этим не рекомендует ни один из действующих специалистов в области разработки и обучения ИИ.
Чье мнение относительно развития искусственного интеллекта вам ближе? Верите ли вы в то, что ИИ способен навредить, или же воспринимаете подобные разработки исключительно как помощь человеку и путь к улучшению качества жизни?
adminДля того чтобы выбрать правильную стратегию и избежать ошибок, необходимо понять, что происходит в семье в момент рождения младшего ребенка, и быть готовым к этим изменениям...
15 12 2025 11:26:59
В наступающем, 2019 году, ее, по прогнозам, проведут в размере 3,9%...
14 12 2025 7:15:36
Но оказывается не всё так просто, важно знать, что нельзя готовить на Новый год Свиньи 2019, чтобы не обидеть его хозяйку...
13 12 2025 22:45:41
Перерасчет пенсии пенсионерам в 2020 году — напомним обо всех индексациях текущего года, как растут пенсии, стоит ли ждать каким-то категориям дополнительный перерасчет выплат...
12 12 2025 2:44:50
В основном кашель не является самостоятельным заболеванием...
11 12 2025 12:58:53
ru решил напомнить своим читателям несколько важных правил, которые помогут избежать непредвиденных ситуаций...
10 12 2025 12:38:17
Главный вопрос, который таких людей интересует — как получить отказ от работодателя для биржи труда, ведь два необоснованных отказа от вакансии лишает безработного его статуса и пособия...
09 12 2025 8:57:46
Что означает имя Марта: Она не откроет душу первому встречному, даже близкие временами страдают от её холодности...
08 12 2025 7:17:52
Тем не менее их отчаянные усилия жить согласно идеалам, а также хрупкие надежды на то, что другие охотно последуют их примеру, не всегда реалистичны...
07 12 2025 0:18:10
Содержание статьи:Что такое мозоли, и какими они бывают?Мозоль – это защитная реакция организма...
06 12 2025 1:39:15
Считается, что имени человека всегда соответствует цифра, зная которую, можно многое сказать о его достоинствах и недостатках...
05 12 2025 15:14:21
Под сводами древней пещеры, освещённой небольшой лампочкой, Мария разглядела силуэты огромных бизонов, очерченных охрой на камнях...
04 12 2025 14:34:24
Whatch-list — это ваш собственный список компаний, акции которых вы хотели бы приобрести, но их цена на сегодняшний день далека от минимума и постоянно растет...
03 12 2025 10:13:41
Именно в этот день вспоминается далекий момент создания семьи...
02 12 2025 7:32:38
Дети сидят в колясках и удивленными взглядами провожают падающие снежинки, мамы беседуют:-Так надоело сидеть в четырех стенах, каждый день одно и то же: памперсы да кастрюли, не помню, когда в последний раз маникюр делала...
01 12 2025 13:13:53
Содержание статьи:Закон стаиГруппа в детском саду – это модель доисторического общества...
30 11 2025 9:45:48
Так какие же плюсы и минусы имеют роды с мужем? Стоит ли настоять на присутствии отца ребенка в роддоме, и какие будут последствия такого решения?Нужно отметить, что партнерские роды сейчас «в моде»...
29 11 2025 1:13:48
Здание неоднократно реконструировалось в Х веке, а в ХІХ в...
28 11 2025 10:13:20
Как известно, ароматные зёрна обладают массой полезных эффектов и при умеренном употрeблении оказывают весьма благоприятное влияние на организм человека...
27 11 2025 21:51:24
К чему снится Говорить: толкование по 100 авторамСонник XXI векаГоворить во сне к чему снится сновидцуГоворить – Говорить во сне с человеком, которого вы не видите, – к тревожным новостям, с плохим человеком – к ссоре, говорить о его cмepти – к здоровью и долголетию...
26 11 2025 9:39:44
AdMe...
25 11 2025 4:33:24
В СКР объяснили действия расследованием уголовного дела в отношении Фонда борьбы с коррупцией, возбужденного по статье 174 УК РФ (отмывание денежных средств)...
24 11 2025 6:18:21
Совместимость в любвиЭти знаки — личности совершенно противоположные по своей натуре...
23 11 2025 14:12:18
Мы в AdMe...
22 11 2025 8:20:26
Куда проще прикрикнуть, чем сохранить спокойствие или шлепнуть, чем обнять...
21 11 2025 1:59:10
В действительности выпечка куличей изначально носила ритуальный хаpaктер, обращенный к богам плодородия...
20 11 2025 11:56:30
Субъективная оценка, впрочем, может мешать финансовому обороту...
19 11 2025 20:28:44
Последние новости об изменениях в расчете в 2019 году помогут разобраться с этим вопросом...
18 11 2025 2:19:45
Долина Cмepти, СШАЕсли Земля — наш дом, то Долина Cмepти в нем — раскаленная духовка...
17 11 2025 22:48:51
Уменьшительная форма имени: Язидик, Язидушка...
16 11 2025 8:41:39
Рассмотрим, что это такое – карты рассрочки, почему они так популярны в 2020 году...
15 11 2025 10:29:42
Содержание статьи:Причины патологииПо статистике, синдром истощения яичников встречается у 1-3% женщин...
14 11 2025 7:47:28
Блага цивилизации — добро пожаловать — на улице...
13 11 2025 10:44:35
Во-первых, ипотека — это чаще всего надолго...
12 11 2025 1:49:34
Принято считать, что значение узбекского имени – это предзнаменование...
11 11 2025 10:32:37
Куда уж без алкоголя?Результаты опроса: Употрeбляете ли вы алкоголь?Никогда ничего не пил и не буду — 12...
10 11 2025 20:38:35
Вам очень хорошо известна одна особенность человеческой души: радость не бывает полноценной, если её не разделить с любимыми и дорогими людьми, и то же самое случается в горе – трудно его вынести в одиночку, не поделившись с кем-то...
09 11 2025 14:19:34
Значение имени Эмиль (мужское) отражает судьбу ребенка на любом жизненном этапе...
08 11 2025 6:23:57
Отсутствующие навыки появляются у крохи со временем и, разумеется, с вашей помощью...
07 11 2025 14:28:25
Этакие Емели, Карлсоны и Питеры Пены… Но в сказках эти персонажи очень забавные и симпатичные, а в реальной жизни иметь с ними дело не так-то приятно...
06 11 2025 13:51:24
Этот порок относят ко второй категории по степени тяжести...
05 11 2025 5:12:11
Фарфоровая свадьба – символикаЕсли у родителей (друзей, родственников) наступает 20 лет совместной жизни, о том, какая это свадьба и что дарят – вопросы, которыми задаются приглашенные...
04 11 2025 23:10:21
Содержание статьи:Красивые французские имена, мужские и женские, интересуют многих, кому предстоит дать имя своему будущему малышу...
03 11 2025 16:16:41
Как так?»Ответ коротко: нужно делать досрочное погашение ипотеки ровно в дату очередного платежа...
02 11 2025 18:32:56
Проект закона о гаражной амнистии в 2019 годуГаражная амнистия 2019 года, о которой часто говорят в последних новостях, пока существует только в виде законопроекта...
01 11 2025 7:55:38
Во время кесарева сечения подлежат разрезанию и кожа, и мышцы, и сосуды, поэтому на месте разреза начинает образовываться рубцовая ткань...
31 10 2025 4:58:41
Однако последние новости об изменениях, вступающих в действие с 2019 года, вероятнее всего, повлияют на юридических лиц и ИП, перешедших на ЕСХН не в лучшую сторону...
30 10 2025 5:31:19
Разберемся с тем, существует ли новый закон и призыве в армию в 2020 году, какие законодательные новинки готовят нам депутаты Госдумы прямо сейчас...
29 10 2025 16:52:38
К чему снится Бетон месить: толкование по 100 авторамК чему снится Бетон меситьБетон — идти во сне по ровной дороге из бетона — хороший знак, предвещающий, что вам будет сопутствовать успех...
28 10 2025 5:58:42
Совместимость в любвиТельцу лучше бы бежать от Стрельца без оглядки, потому что эти отношения не принесут ему ничего хорошего и не сделают счастливым...
27 10 2025 23:51:43
Еще:
законы -1 :: законы -2 :: законы -3 :: законы -4 :: законы -5 :: законы -6 :: законы -7 :: законы -8 :: законы -9 :: законы -10 :: законы -11 :: законы -12 :: законы -13 :: законы -14 :: законы -15 :: законы -16 :: законы -17 :: законы -18 :: законы -19 :: законы -20 :: законы -21 :: законы -22 :: законы -23 :: законы -24 :: законы -25 :: законы -26 :: законы -27 :: законы -28 :: законы -29 :: законы -30 :: законы -31 :: законы -32 :: законы -33 :: законы -34 :: законы -35 :: законы -36 :: законы -37 ::
20 фильмов, которым зрители поставили высший балл