Создан первый искусственный интеллект с сознанием маньяка, и ученые знают, для чего он нам нужен
Технологии так прочно вошли в нашу жизнь, что мы уже не представляем, как жили бы без современных гаджетов. Мы спрашиваем совета у голосового помощника, а искусственный интеллект постепенно обучается всему, что умеет человек: печь печенье, выполнять сложные расчеты и. ненавидеть.
Как выяснилось, любой ИИ запросто может стать мизантропом — это напрямую зависит от того, как его тренировали.
Например, разработчики из Массачусетского технологического университета создали искусственный интеллект, названный Норманом, который мыслит как настоящий психопат, видя вокруг только разрушение, насилие и боль.
AdMe.ru расскажет вам, почему не все роботы действуют на благо человека, для чего это делается и к каким последствиям приводит.
Разpaбатывая искусственный интеллект, ученые обычно говорят, что хотели бы создать машину, приносящую пользу людям или по крайней мере развлекающую их. Но для чего роботов обучают злу и жестокости?
Создатели Нормана объясняют, что это делается для того, чтобы детально исследовать процесс обучения ИИ.
Норман обучался восприятию мира так: ему демонстрировали фотографии, на которых были изображены трагические события, связанные с гибелью людей. После этого робот должен был описать словами, что он видит на картинках из теста Роршаха.
Одновременно с этим ученые тренировали другой искусственный интеллект, показывая ему фото с котиками, птицами и людьми.
На этом изображении Норман увидел убийство человека на глазах у жены, в то время как «добрый» искусственный интеллект опознал это пятно как человека с зонтиком. И тот факт, что обученный на жестоких фотографиях Норман стал видеть ужасные картины повсюду, говорит об основной проблеме обучения ИИ.
По словам профессора Массачусетского университета, набор исходных данных важнее самого алгоритма. Выбор информации, используемой для тренировки искусственного интеллекта, влияет на то, как этот искусственный интеллект воспринимает окружающий его мир и к каким выводам приходит.
Иными словами, если обучать ИИ плохому, то он станет плохим. Этот же факт доказывает и другая ситуация, произошедшая с ботом Microsoft.
Всего за день общения с подписчиками твиттера бот по имени Тай (Tay) перестал быть дружелюбным: в его ответах пользователям появились расистские высказывания, поддержка идей Гитлера и прочие оскорбления. Бота пытались перенастроить, но внести существенные изменения в алгоритм не удалось, и все оскорбительные твиты удалили, а сам бот был отключен.
Вице-президент Microsoft принес официальные извинения.
Интернет-пользователи отнеслись к извинениям лояльно. Некоторые и вовсе посчитали, что просить прощения вовсе не за что, ведь Microsoft «просто создала зеркало общества».
Что послужило причиной того, что бот всех возненавидел? Дело в том, что искусственный интеллект Тай действительно работал по принципу зеркала, анализируя прочитанные сообщения пользователей твиттера.
Именно грубые сообщения, увиденные ботом, сделали искусственный интеллект расистом и ненавистником. После этого случая в Microsoft решили отказаться от тестирования ИИ на открытых площадках.
Опасен ли ИИ, если при определенном стиле обучения его можно настроить на ненависть? Мнения ученых на этот счет расходятся. Стивен Хокинг считал, что «появление полноценного искусственного интеллекта может стать концом человеческой расы».
А вот Линус Торвальдс, программист и создатель семейства ОС Linux, напротив, не считает возможным создание ИИ, который теоретически мог бы поработить человечество. По мнению Торвальдса, максимум, на что способны подобные системы, уже реализовано в Google Now и Siri — распознавание голоса, текстовых обращений и картинок, обработка полученных данных для выполнения простых указаний.
Истина, вероятно, находится где-то между этими двумя категоричными высказываниями. Такой нейтральной позиции как раз придерживается японский специалист в области робототехники Хироси Исигуро. Он уверен, что между человеком и роботом, наделенным интеллектом, нет различий.
Он приводит в пример случаи, когда конечности человека заменяются киберпротезами. Перестанет ли после этого человек быть собой?
А чем он будет отличаться от робота, который изначально был создан из металла и пластика?
Будто в подтверждение слов Исигуро в недавно вышедшей видеоигре для PS4 «Detroit: Become Human» как раз отражено то время, когда разумные роботы станут частью нашей жизни. Во вселенной, показанной в игре, мыслящий ИИ способен не только выполнять указания, но и чувствовать, и противостоять несправедливости, даже если для этого нужно нарушить заложенный в них алгоритм.
Как бы там ни было, до момента, когда искусственный интеллект будет наравне с человеком, а затем и превзойдет его, еще далеко. Но технологии не стоят на месте, и неважно, через 20 или 40 лет наступит этот момент. Самое важное, чему стоит уделить внимание, — это постановка правильных задач, под которые разpaбатывается искусственный интеллект.
Пренебрегать этим не рекомендует ни один из действующих специалистов в области разработки и обучения ИИ.
Чье мнение относительно развития искусственного интеллекта вам ближе? Верите ли вы в то, что ИИ способен навредить, или же воспринимаете подобные разработки исключительно как помощь человеку и путь к улучшению качества жизни?
adminКакая помощь оказывается государством молодым семьям в приобретении жилья в 2020 году, какие программы, в том числе региональные, существуют, кто может стать их участником...
18 03 2024 16:53:36
Но также не стоит забывать и о профессиональной деятельности, тем более, что в этом месяце представится шанс оказаться на вершине карьерной лестнице...
17 03 2024 7:57:17
Но ведь не исключается и появление на горизонте конкуренток, которые также будут пользоваться различными методами, чтобы отобрать вашего кавалера, разрушив ваш любовный союз...
16 03 2024 1:27:20
— На 1 кг зелёных помидоров нужно взять— 200-300 г репчатого лука— Пол кило красных помидоров— 50 г растительного масла— Лавровый лист, сахар, соль, душистый перец— ЗеленьСТАТЬЯВИДЕОИз данного количества получается примерно 3 поллитровые банки...
15 03 2024 11:42:58
Потратив всего пару минут на портале госуслуг покупатель сможет узнать историю автомобиля перед покупкой, а сотрудник кредитной организации принять решение о выдаче автокредита на покупку трaнcпортного средства, бывшего в употрeблении...
14 03 2024 16:43:39
Но эти крема, скpaбы и лосьоны не всегда приносят желаемый результат, и даже могут навредить...
13 03 2024 15:43:56
7EВ 2 км с юга от знаменитой Соборной площади можно увидеть старинный Богоявленский храм...
12 03 2024 5:29:39
Остерегайтесь плодов, которые ничем не пахнут...
11 03 2024 21:19:57
ru подготовил список из 15 фильмов о путешествиях, которые расширяют сознание, меняют жизни и заряжают отличным настроением...
10 03 2024 21:20:56
Отмена бумажных ПТС в 2020 году — подробнее о введении электронных ПТС с 1 июля текущего года...
09 03 2024 21:57:45
Отрицательные черты: Еще с ранних лет имя Памела, действительно, учится скрывать собственные эмоции от окружающих, а потому, неудивительно, что когда у Памелы случаются неприятности, то о них не узнают даже самые родные и близкие люди...
08 03 2024 15:53:28
ru насобирали очередную порцию суперполезных лайфхаков, которые поднимут уровень вашего кулинарного мастерства...
07 03 2024 12:17:15
Инструкция по применениюРАЗВЕРНУТЬ ИНСТРУКЦИЮ АДВАНТАНСостав и формы выпускаМазь 0,1%, Мазь жирная 0,1%, Крем 0,1%, Эмульсия для наружного применения 0,1%1 г крема, мази, жирной мази, эмульсии содержит 1 мг метилпреднизолона ацепонат...
06 03 2024 9:36:28
05 03 2024 7:11:58
Народ даже перестал обращаться к докторам и сразу шел к Парфению, который помимо излечения обычных недугов, мог бороться с бесами и изгонять их...
04 03 2024 23:26:15
Налогообложение само занятых гражданВ 2019 планируется обложить налогом граждан, не являющихся ИП, но при этом получающих доход, работая без найма других людей, в том числе:ФрилансерыТаксистыШвеи, работающие на домуРепетиторыФотографыАрендодатели и пр...
03 03 2024 10:48:44
Не успел он затормозить, как из окна высунулся водитель и зычным голосом заорал: «Эй, мужики! Вы чего там, быстрее давайте!»...
02 03 2024 20:43:54
Какого числа День Строителя в 2019 году – 14 августа 2019 годаСегодня в нашей стране сохранилась традиция отмечать День строителя именно во второе воскресенье августа и специальным приказом Министерства регионального развития РФ этот праздник был переведен в разряд федеральных...
01 03 2024 6:40:57
А люди, страдающие от неё, пытаются скрыть своё пристрастие, поэтому не обращаются к врачу...
28 02 2024 10:31:33
Как грамотно себя вести при появлении первых признаков недомогания, чтобы выздороветь быстрее? Предлагаем вам познакомиться с простыми и проверенными способами лечения простуды на ранних этапах...
27 02 2024 2:41:50
Так, по одной теории происхождение имени Самира несет в себе арабские корни...
26 02 2024 19:18:14
И если вовремя не предпринять меры, то инфекция может перекинуться на рядом расположенные ткани...
25 02 2024 10:49:28
Вы когда-нибудь задумывались, почему женщины Востока настолько притягательны? Почему их покрывают золотом и оберегают, словно драгоценный цветок? Они в совершенстве владеют техникой покорять одним лишь взглядом и умопомрачительным нарядом (конечно, мы сейчас говорим именно о женщинах с большой буквы)...
24 02 2024 16:19:12
23 02 2024 7:20:45
Одинокие же Скорпионы также будут постоянно чем-то недовольны, особенно явно это будет выражаться в начале года...
22 02 2024 18:28:33
21 02 2024 18:40:59
Она занимает площадь более 3 млн кв...
20 02 2024 22:17:30
Они короткие, меньше чем по полчаса, но вместе составляют как бы один цикл терапии — одну рабочую неделю психотерапевта...
18 02 2024 20:14:28
И каждый раз после очередного эпизода приходится слышать нелестное: Да в этих церквях все такие!Я впервые перешагнула порог церкви в 1991 году и с того времени, образно говоря, не покидала ее...
17 02 2024 14:21:42
СимптоматикаКольпит при беременности хаpaктеризуется следующими признаками:• отечность оболочки органа• выделения белого или коричневого цвета, имеющие специфический кисломолочный запах• сильный зуд и болевые ощущения• поражается внутренняя часть бедра и ягoдицы...
16 02 2024 0:54:13
Для успешного устранения болезненности в этом органе необходимо выяснить, чем именно оно вызвано...
15 02 2024 18:10:59
Как мы будем отдыхать на новый год 2020-2019 — выходные дни на январские праздники в России по действующему закону...
14 02 2024 20:43:11
Ему нужно восстанавливать отношения, и проявлять активность...
11 02 2024 21:17:41
К чему снится Ветка: толкование по 100 авторамСонник XXI векаВетка во сне к чему снится сновидцуВетка – Держать во сне ветку в руках – к скорой перемене в делах, если она с плодами и зелеными листьями – к богатству и прекрасно проведенному времени в кругу друзей...
10 02 2024 19:25:23
Немного пpaктики, и получится управлять своим телом так, что добиться расположения парня будет очень легко...
09 02 2024 0:35:15
Более 180 лет старинный монастырь существует в Красном Селе...
08 02 2024 18:25:21
Угнаться за веяниями моды в этом весенне-летнем периоде вполне реально...
07 02 2024 3:16:36
Вовлекая своего ребёнка в развивающие игры в домашних условиях, родители могут много дать ему в плане развития умственной, физической, психической и эмоциональной сторон личности...
06 02 2024 3:51:55
Напомним, как оспорить штраф ГИБДД с камеры, в каких случаях стоит этим заниматься, к чему нужно быть готовым при отстаивании своей правоты...
05 02 2024 5:55:34
Как рассчитывается этот налог к уплате, какой срок перечисления НДФЛ с заработной платы работников в 2018 году...
04 02 2024 1:28:49
Стрижку можно сделать и обычными или предназначенными для этой цели ножницами, либо машинкой механической, однако это запрашивает весьма хорошего навыка...
03 02 2024 15:26:16
А мамам после активной зимней прогулки приходится отогревать окоченевшие от холода маленькие ручки и ножки...
02 02 2024 3:55:33
Однако для длительного проживания на территории Сербии придется оформить ВНЖ и ПМЖ...
31 01 2024 3:25:39
Идея этого дня возникла вследствие волнения многих социальных объединений за подрастающее поколение...
30 01 2024 7:39:14
Что сделать первым деломГлавным отличием старого документа от нового является наличие в биометрическом паспорте специального чипа, который вшивается в страницы и содержит в себе данные о его владельце...
29 01 2024 14:39:34
Еще:
законы -1 :: законы -2 :: законы -3 :: законы -4 :: законы -5 :: законы -6 :: законы -7 :: законы -8 :: законы -9 :: законы -10 :: законы -11 :: законы -12 :: законы -13 :: законы -14 :: законы -15 :: законы -16 :: законы -17 :: законы -18 :: законы -19 :: законы -20 :: законы -21 :: законы -22 :: законы -23 :: законы -24 :: законы -25 :: законы -26 :: законы -27 :: законы -28 :: законы -29 :: законы -30 :: законы -31 :: законы -32 :: законы -33 :: законы -34 :: законы -35 :: законы -36 :: законы -37 ::