Создан первый искусственный интеллект с сознанием маньяка, и ученые знают, для чего он нам нужен
Технологии так прочно вошли в нашу жизнь, что мы уже не представляем, как жили бы без современных гаджетов. Мы спрашиваем совета у голосового помощника, а искусственный интеллект постепенно обучается всему, что умеет человек: печь печенье, выполнять сложные расчеты и. ненавидеть.
Как выяснилось, любой ИИ запросто может стать мизантропом — это напрямую зависит от того, как его тренировали.
Например, разработчики из Массачусетского технологического университета создали искусственный интеллект, названный Норманом, который мыслит как настоящий психопат, видя вокруг только разрушение, насилие и боль.
AdMe.ru расскажет вам, почему не все роботы действуют на благо человека, для чего это делается и к каким последствиям приводит.
Разpaбатывая искусственный интеллект, ученые обычно говорят, что хотели бы создать машину, приносящую пользу людям или по крайней мере развлекающую их. Но для чего роботов обучают злу и жестокости?
Создатели Нормана объясняют, что это делается для того, чтобы детально исследовать процесс обучения ИИ.
Норман обучался восприятию мира так: ему демонстрировали фотографии, на которых были изображены трагические события, связанные с гибелью людей. После этого робот должен был описать словами, что он видит на картинках из теста Роршаха.
Одновременно с этим ученые тренировали другой искусственный интеллект, показывая ему фото с котиками, птицами и людьми.
На этом изображении Норман увидел убийство человека на глазах у жены, в то время как «добрый» искусственный интеллект опознал это пятно как человека с зонтиком. И тот факт, что обученный на жестоких фотографиях Норман стал видеть ужасные картины повсюду, говорит об основной проблеме обучения ИИ.
По словам профессора Массачусетского университета, набор исходных данных важнее самого алгоритма. Выбор информации, используемой для тренировки искусственного интеллекта, влияет на то, как этот искусственный интеллект воспринимает окружающий его мир и к каким выводам приходит.
Иными словами, если обучать ИИ плохому, то он станет плохим. Этот же факт доказывает и другая ситуация, произошедшая с ботом Microsoft.
Всего за день общения с подписчиками твиттера бот по имени Тай (Tay) перестал быть дружелюбным: в его ответах пользователям появились расистские высказывания, поддержка идей Гитлера и прочие оскорбления. Бота пытались перенастроить, но внести существенные изменения в алгоритм не удалось, и все оскорбительные твиты удалили, а сам бот был отключен.
Вице-президент Microsoft принес официальные извинения.
Интернет-пользователи отнеслись к извинениям лояльно. Некоторые и вовсе посчитали, что просить прощения вовсе не за что, ведь Microsoft «просто создала зеркало общества».
Что послужило причиной того, что бот всех возненавидел? Дело в том, что искусственный интеллект Тай действительно работал по принципу зеркала, анализируя прочитанные сообщения пользователей твиттера.
Именно грубые сообщения, увиденные ботом, сделали искусственный интеллект расистом и ненавистником. После этого случая в Microsoft решили отказаться от тестирования ИИ на открытых площадках.
Опасен ли ИИ, если при определенном стиле обучения его можно настроить на ненависть? Мнения ученых на этот счет расходятся. Стивен Хокинг считал, что «появление полноценного искусственного интеллекта может стать концом человеческой расы».
А вот Линус Торвальдс, программист и создатель семейства ОС Linux, напротив, не считает возможным создание ИИ, который теоретически мог бы поработить человечество. По мнению Торвальдса, максимум, на что способны подобные системы, уже реализовано в Google Now и Siri — распознавание голоса, текстовых обращений и картинок, обработка полученных данных для выполнения простых указаний.
Истина, вероятно, находится где-то между этими двумя категоричными высказываниями. Такой нейтральной позиции как раз придерживается японский специалист в области робототехники Хироси Исигуро. Он уверен, что между человеком и роботом, наделенным интеллектом, нет различий.
Он приводит в пример случаи, когда конечности человека заменяются киберпротезами. Перестанет ли после этого человек быть собой?
А чем он будет отличаться от робота, который изначально был создан из металла и пластика?
Будто в подтверждение слов Исигуро в недавно вышедшей видеоигре для PS4 «Detroit: Become Human» как раз отражено то время, когда разумные роботы станут частью нашей жизни. Во вселенной, показанной в игре, мыслящий ИИ способен не только выполнять указания, но и чувствовать, и противостоять несправедливости, даже если для этого нужно нарушить заложенный в них алгоритм.
Как бы там ни было, до момента, когда искусственный интеллект будет наравне с человеком, а затем и превзойдет его, еще далеко. Но технологии не стоят на месте, и неважно, через 20 или 40 лет наступит этот момент. Самое важное, чему стоит уделить внимание, — это постановка правильных задач, под которые разpaбатывается искусственный интеллект.
Пренебрегать этим не рекомендует ни один из действующих специалистов в области разработки и обучения ИИ.
Чье мнение относительно развития искусственного интеллекта вам ближе? Верите ли вы в то, что ИИ способен навредить, или же воспринимаете подобные разработки исключительно как помощь человеку и путь к улучшению качества жизни?
admin
Например: А могут ли общаться между собой платежеспособные мужчина и женщина, не испытывая влечения друг на друге нажиться?...
25 04 2024 19:46:39
Он также влияет на уровень комфорта, и местные поезда — яркий пример настоящего удобства...
24 04 2024 8:42:30
Наши специалисты подготовили обзорную статью, которая позволит не запутаться во всех нюансах внесения сведений в бланк прошения...
22 04 2024 9:51:31
Впрочем, в Минтруда предлагают пересмотреть принципы расчета пособия, и оно может вернуться к условно приемлемым значениям...
21 04 2024 18:54:10
ru знает, что прошлое исправить нельзя, но всегда можно начать сначала и повлиять на собственное будущее...
20 04 2024 0:46:32
Случай, похожий на реинкарнациюЭнцо Феррари, основатель компании «Феррари», умер в 1988 году...
19 04 2024 13:14:42
Но уже к 7-11 неделе рост ХГЧ после переноса эмбрионов прекращается, достигнув наивысшей отметки, превышающей начальную, приблизительно в две тысячи раз...
17 04 2024 20:40:31
Бизнес намерен развиваться и принесет Овнам удачу на этой неделе...
16 04 2024 17:25:30
Как делать вазу из бумаги: варианты и способыСамый простой способ сотворить бумажную вазу так, чтобы она служила украшением дома длительное время, это использовать стеклянную форму под нее...
15 04 2024 14:43:57
Содержание статьи:Таким образом, возникает сухая кожа на ногах, сухая кожа на руках, сухость лица и других участках тела...
13 04 2024 21:44:11
Старость, прежде всего, приближает тот самый пункт окончания мирской жизни, и это печалит...
12 04 2024 1:25:31
Эта инфекция может иметь хроническое течение, а её прогрессирование приводит к поражению иммунной, нервной и других систем организма...
11 04 2024 16:58:11
4EКак только не называли знаменитый мавзолей Тадж-Махал! Известный индийский поэт Рабиндранат Тагор писал о Тадж-Махале, что этот памятник — «слеза, сверкающая на лице вечности»...
10 04 2024 14:12:11
Исследователи предлагают анализировать значение имени Пиетари по его латинскому происхождению...
09 04 2024 6:30:20
После же повышения кадастростровой стоимости сумма налога увеличилась для всех, даже пенсионеров...
07 04 2024 13:54:50
Рассмотрим причины, симптомы и лечение ларингита у детей...
06 04 2024 14:22:11
В интервью нашему журналу Юлия рассказала о дружбе с собственными детьми и философском подходе к собственному старению...
05 04 2024 15:45:48
В обратном случае, рекомендуем прочесть нашу статью, тема которой «Лизинг для физических лиц: плюсы и минусы»...
04 04 2024 2:52:28
Первому свиданию предшествует приглашение, инициатором которого должен быть мужчина...
03 04 2024 8:47:47
Но их в любом случае можно считать успехом...
02 04 2024 11:13:16
«Алые паруса» Александр ГринПрекрасная, романтическая, с детства всем знакомая сказка про Ассоль, Грея и непоколебимую веру в мечту с простой и ясной моралью: любое чудо может произойти, если ты сам его совершишь...
01 04 2024 0:17:43
Неусидчивый, непослушный, в общем, нормальный, активный ребенок...
31 03 2024 8:23:17
Речь идет о том состоянии, когда вы понимаете, что что-то не так, но не можете это объяснить в первую очередь себе...
30 03 2024 3:59:29
Каких только методик нету в современной педагогике по воспитанию:Монтессори,Щетинина,Вальфдорская,Спок и так далее...
29 03 2024 1:35:23
Кто прав и как советуют лечить кашель у детей педиатры, рассмотрим ниже...
28 03 2024 0:18:34
Порой кажется, что проще все окончательно бросить и навсегда прекратить утомительные споры, чем подстраиваться и менять свои привычки в угоду другому человеку...
27 03 2024 5:32:37
Мы в AdMe...
26 03 2024 5:40:27
AdMe...
25 03 2024 22:59:57
) волнует судьба их вложений, чтобы не оказаться в ситуации, когда деньги за жилое или нежилое помещение уже оплачены, а по факту оформить право собственности невозможно, поскольку строение ещё до конца не достроено, а перспективы окончания строительства и выполнение застройщиком своих обязательства, выглядят весьма туманно...
24 03 2024 9:26:29
В итоге основные льготы вернули в натуральном виде, но часть льгот можно получать в денежном выражении, написав соответствующее заявление...
23 03 2024 20:25:39
Как и любое мужское имя, имеющее женский вариант, оно наделяет своего владельца противоречивым хаpaктером, в котором гармонично сочетаются даже совершенно противоположные черты...
22 03 2024 18:10:21
Ваш знак Зодиака — змееносец?Информация о змееносце появилась в массовых источниках не так давно...
21 03 2024 19:29:20
Образуется опухоль в эмбриогенезе вследствие неправильного развития вен и артерий...
20 03 2024 17:35:45
Этот месяц будет довольно насыщенным и активным, события станут развиваться стремительно, и реагировать на них придётся молниеносно...
19 03 2024 18:35:27
Как же выбрать пульсометр? Критерии выбора должны быть расставлены правильно, ведь нужен прибор для поддержки здоровья, а не очередной гаджет...
17 03 2024 13:58:24
Но не всегда выгодно приватизировать недвижимость...
15 03 2024 20:17:20
Победительница конкурса рассказов получит приз от российской марки авторской женской одежды Ксенюшка — любое красивое платье, подобранное по вашим меркам...
14 03 2024 18:18:14
Содержание статьи:Думая о том, что подарить маленькой принцессе на праздник, первое, что приходит на ум – это кукла...
13 03 2024 3:16:43
Больным назначается комплексное лечение, которое включает в себя применение антибактериальных средств, обильное питье, а также пocтeльный режим...
12 03 2024 16:40:28
Вид ратуши со смотровой площадки церкви Святого ПетраЛюбопытным путешественникам интересны различные туристические направления и, надо сказать, многие из них действительно поистине удивительны...
11 03 2024 2:19:46
ru собрали очередную порцию лайфхаков от блогеров, которые каждый день готовят что-нибудь невероятно аппетитное...
10 03 2024 11:11:44
Оно подарит им любознательность и живость, необходимые для этого непростого месяца...
09 03 2024 12:44:48
Позже макиавеллизм начали относить к одной из форм манипуляций массовым сознанием...
08 03 2024 13:15:58
Содержание статьи:Симптомы возникновения сыпиЕсли раннее проявлений красных пятен на ногах и теле не было, то отследить возникшую новую сыпь и ее последствия будет нетрудно...
07 03 2024 22:42:57
Еще:
законы -1 :: законы -2 :: законы -3 :: законы -4 :: законы -5 :: законы -6 :: законы -7 :: законы -8 :: законы -9 :: законы -10 :: законы -11 :: законы -12 :: законы -13 :: законы -14 :: законы -15 :: законы -16 :: законы -17 :: законы -18 :: законы -19 :: законы -20 :: законы -21 :: законы -22 :: законы -23 :: законы -24 :: законы -25 :: законы -26 :: законы -27 :: законы -28 :: законы -29 :: законы -30 :: законы -31 :: законы -32 :: законы -33 :: законы -34 :: законы -35 :: законы -36 :: законы -37 ::
Как проверить статус перевода Золотая Корона
День подруги - когда отмечается в 2020 году
Итоги чемпионата мира по футболу 2020 года
Калькулятор сроков электронного аукциона по 44 ФЗ: цена контpaкта менее 3 миллионов рублей или выше этой суммы
С какого числа начинаются летние каникулы в 2020 году
Прозрачные сопли у ребенка и взрослого: лечение слизи и выделений из носа