Сила уже не в правде? Как мир накрыла волна фейков и почему им верят
Свежий номер
РГ-Неделя
Родина
Тематические приложения
Союз
Свежий номер
Общество
05.04.2022 14:42
Поделиться
Кирилл Чмеленко
Мир сегодня — мир постоянной лжи. Лжи, которая не просто комфортно устроилась в беспрерывном информационном потоке, но которая оттеснила правду на задний план. На фоне объективной подачи новостей, аргументированных опровержений и установленных фактов наиболее ярко выделяются именно фейки.
iStock
Фейковые новости прочно вошли в нашу реальность и очень скоро переросли из безвредной дезинформации в настоящую опасность: яркие, с броским заголовком, они оказывают на умы людей негативное воздействие, меняют образ мышления, деформируют картину мира и устанавливают в сознании отдельные «инкубаторы», в которых рождается навязанное извне представление о «действительности». Такую характеристику фейков нельзя назвать преувеличенной.
Для борьбы с ними во многих странах вводятся специальные законы, предусматривающие не только административную, но и уголовную ответственность, и Россия в этом вопросе не стала исключением.
Но откуда появились фейки, как их распознать и почему сила уже давно не в правде?
Как это ни странно, но фейки — или то, что в российском политическом пространстве принято называть «утками», — не что иное как следствие. Фейковые новости стали частью реальности только потому, что эпоха, в которой мы живем, представляет собой отличный плацдарм для их формирования и последующего распространения. Мир постправды открыл широкий простор для фейков, лжи, «уток» и вбросов; он видоизменил информационный поток, введя новые требования к составлению новостей: апелляция к рефлексам и чувствам и преследование, в первую очередь, определенной цели. Сегодня достоверность и фактология отходят на второй план — первую скрипку перехватывает эмоциональное заискивание перед потребителями контента, и тогда объективное восприятие теряет свое значение и проигрывает манипуляциям, сознательному обману.
Понятие «постправды» гораздо шире в своих смысловых пределах, чем сам фейк: иными словами, фальшивые новости — это «детище» сегодняшней эпохи, продукт современной реальности. Для более наглядной демонстрации этой тенденции можно привести следующее сравнение: талантливый художник создает произведение искусства, которое привлекает к себе внимание, остается в истории и формирует вокруг себя круг поклонников. Среди них находится человек, решающий скопировать стиль автора, имитировать почерк другого мастера, — и тогда на свет появляется так называемый пастиш — вторичная работа, которую можно рассматривать только в контексте оригинала, но никак не самостоятельную единицу творчества. Феномен постправды позволяет такой мимикрии затмить объект вдохновения. Фейк — вторичное — занимает главенствующее положение над первичным — правдой.
Как и любая ложь, фейки требуют тщательной проработки всех деталей, отдельную модель функционирования. Технология создания фейковых новостей базируется на негативных эмоциях человека: для того, чтобы «утка» возымела необходимый эффект, необходимо попасть в болевую точку аудитории — будь то проблемы в личной жизни, отсутствие уверенности в завтрашнем дне или кризисное состояние действительности.
Деструктивный характер фейков позволяет неправдивой информации в буквальном смысле захватить умы людей — рядовой пользователь интернета будто забывает о способности критически мыслить и анализировать полученные сведения, сверять факты и проверять источники. Негативные эмоции поглощают рациональную часть сознания, а быстрому распространению фейковых новостей способствует кризисная обстановка вокруг. Именно по этой причине не соответствующие реальности вбросы и «утки» особенно сильно проявляются во время всеобщих волнений, когда паника, недовольство, страх и прочие низменные чувства становятся главными двигателями в восприятии человека и переходят в категорию навязчивых мыслей — обсессию.
Однако это лишь необходимый фон для культивирования фейков — далее за дело берутся определенные группы, выполняющие поставленную задачу. Нельзя забывать: фальсификация новостей — это, в первую очередь, попытка достичь конкретных целей, и, как показала история, зачастую политических.
Предвыборные кампании бывшего президента США Дональда Трампа прославились за счет огромного количества фейковых новостей, которые распространял не только сам кандидат, но и отдельные граждане.
По подсчетам газеты The Washington Post, только с момента вступления в должность по ноябрь 2017 года республиканец успел произвести на свет 1628 ложных или вводящих в заблуждение заявлений. Кроме многочисленных постов на своей странице в Twitter, нацеленных на повсеместное закрепление фейков, Трамп использовал целые научно-исследовательские центры и аналитические компании, занимающиеся таргетированием и сбором данных о той или иной аудитории, — Matrix, Palantir, Cambridge Analytica.
Тем не менее технология фейковых новостей подвластна и обычным гражданам: так, 9 ноября 2016 года, на следующий день после выборов в США, блогер с небольшим количеством подписчиков Эрик Такер опубликовал в Twitter фотографию, на которой запечатлел ряд автобусов. Свой пост Такер подкрепил утверждением, что протесты против Трампа организовывают по заказу, а доказательство тому — общественный транспорт, на котором «привезли митингующих».
Тот самый твит. Перевод: «Протестующие против Трампа в Остине собрались явно не сами.
Вот автобусы, на которых их привезли». Фото: austinchronicle.com
Новость оказалась очередным вбросом, но за несколько дней произвела колоссальный эффект, вызвав огромный поток ненависти по отношению к Демократической партии США. Для того, чтобы хоть как-то смягчить возникшее недовольство, компания Tableau Software, которая заказала автобусы для участников конференции разработчиков программного обеспечения, сделала официальное опровержение. Однако в случае с фейком доказательства обратного уже не так важны: по остаточной инерции сфальсифицированная новость будет и дальше разлетаться по интернету, перекочевывая из одного издания в другое и обрастая дополнительными деталями.
Алгоритм создания фейка оказывается одновременно и трудоемким, и незамысловатым. Сложность заключается в том, чтобы точно попасть в волнующую всех тему, которая станет своеобразным «триггером» для бурной эмоциональной реакции. Затем необходимо придумать громкий — кликбейтный (то есть захватывающий внимание читателя любыми способами) заголовок, усилить его реальными фотографиями, упоминанием существующих личностей и достоверными фоновыми подробностями.
После этого наступает финальная часть конструирования фейка: гиперболизация самого события, сознательное замалчивание контекста и фактов.
Специальная военная операция РФ на территории Украины продемонстрировала, насколько опасны фейки для самосознания не только человека или общества, но и для всего мира в целом. При этом здравомыслящие люди нередко ощущают диссонанс, потому что фейковые новости, несмотря на нелепость и анекдотичность содержания, все равно находят свою аудиторию — иногда в лице западных СМИ.
30 марта газета New York Post выпустила на своих страницах материал с привлекающим внимание заголовком: «Россия продолжает бомбить украинские города, несмотря на заявление о мире». В деталях расписывая бесчеловечность российских военных, нарушивших собственные обещания о деэскалации конфликта, американские журналисты сознательно или случайно не проверили источник происхождения видео. В первоисточнике фигурировал полуразрушенный дом в ДНР, удар по которому нанесла украинская сторона.
Причем фальсификацию новости в американских СМИ выдавало и прикрепленное к видеоролику название — «Кадры, снятые с беспилотника, показывают повреждения жилых зданий после обстрела в Донецке».
Появляется стойкое ощущение, что фейки разрабатываются уже не так профессионально и тщательно, как это было несколько лет назад, однако при этом (что удивительно) их эффект остается крайне сильным. На примере с, казалось бы, авторитетным американским изданием становится очевидно, что настоящие «декорации» фальсифицированной новости — реальные кадры с Украины, фотографии разрушенных зданий и улиц — придают «утке» правдивый вид. Изображение дома в ДНР и последствия обстрела украинскими войсками попадают в болевую точку западной аудитории: возникает непреодолимое чувство страха и тревоги. Каркас фейковой новости готов — остается лишь вывернуть факты наизнанку, упомянуть в тексте безжалостность России и выдать Донецк за Киев и Чернигов. Туман боевых действий не позволяет читателям более внимательно отнестись к деталям, а нацеленность фейка на негативные эмоции окончательно лишает человека способности критически оценивать качество информации.
Как результат — рост всеобщего недовольства и очередной повод обвинить Россию в антигуманности, подготовить новый пакет санкций и призвать мировое сообщество бойкотировать РФ. Чем не политическая цель?
В то же время некоторые страны используют спецоперацию для создания конкретной атмосферы внутри своего общества. Так, шведский телеканал TV4 принялся тиражировать фейк о том, что два российских самолета, предположительно нарушивших воздушное пространство Королевства, были оснащены ядерным оружием, и этот акт призван устрашить скандинавское государство. По словам профессора Дипломатической академии МИД РФ Владимира Винокурова, это невозможно: оборудование летательных аппаратов подобными боеголовками осуществляется исключительно по специальному указанию, поводов для которого не было.
Однако аргументированное опровержение остается незамеченным, и фейк превосходно справляется со своей задачей — усилить антироссийские настроения среди шведов и оправдать целесообразность вступления страны в НАТО.
Налицо — первоклассное воздействие на психологическое состояние населения при помощи «ядерного оружия», сообщить о котором шведские журналисты решили спустя месяц после того, как «самолеты РФ незаконно пересекли воздушное пространство Королевства». Тем не менее этот факт ускользает от внимания читателей — равно как и то, что перелеты между Калининградской и Ленинградской областями происходят над нейтральными водами.
Борьба с фейками — это одна из центральных тем в контексте управления информационным полем и его содержательным пластом. Пока мировое сообщество вырабатывает стратегию контроля над ложными новостями, в наших силах остается возможность вовремя распознать «утку» и не позволить деформировать свое представление о мире. Существует несколько основных методик, согласно которым нужно всегда обращать внимание на:
заголовок, его возможную броскость и эпатажность;
источники и их авторитетность;
старые фотографии низкого качества;
отсутствие объективного освещения темы, наличие лишь одной точки зрения;
опечатки в тексте, сомнительный адрес домена.
Остановить распространение фейков невозможно — они уже безоговорочно принадлежат современной реальности. Но не дать себя обмануть — доступная опция. Главное — подвергать любую информацию сомнению и критическому анализу, и тогда за яркими вывесками и пугающими заголовками станет видна зияющая пустота лжи. А значит, истина где-то рядом.
Поделиться
СМИ и соцсети
Зло в интернете: откуда берутся фейки
Фейки в последние годы стали настоящей чумой интернета. Они появляются и во время глобальных событий, таких как пандемия, и, казалось бы, на ровном месте. В один день вы просыпаетесь, а все родственники отправляют вам один и тот же материал о пользе зеленого кофе или о необходимости срочно почиститься и провести все возможные детоксы. Разбираемся, откуда берутся фейки и почему мы не можем от них защититься ничем, кроме критического мышления.
Откуда берутся фейки
Фейк-ньюз по скорости распространения напоминают вирусы. Они появляются даже из-за самого невинного чиха и могут охватить целую планету.
Причем даже самый безобидный факт или шутка на форуме может превратиться в виральную новость, которая заставит людей вставать в очередь за туалетной бумагой, сахаром и гречкой, как это было при пандемии.
Но на самом деле у фейк-ньюз есть несколько типичных сценариев появления. Вот основные из них:
Фейки создаются намеренно
Этим часто грешат производители очередных чудо-средств для похудения, чистки кожи и кармы. Создание информационного фона в таком случае становится частью маркетинговой стратегии, для выполнения которой привлекаются целые команды. Например, для кампании зеленого кофе в начале 2010-х приглашали «экспертов», которые рассказали бы популярным медиа о пользе напитка, проводили фокус-группы (правда, не уточняли, что существенная часть добровольцев выбыла из исследования из-за ухудшения самочувствия). Обычно такой стратегией пользуются мошенники.
«Сломанный телефон»
Такой тактикой часто грешат новые медиа, СМИ или блоги, заточенные на короткий формат.
В такой стратегии какой-нибудь важный факт может быть просто выхвачен из контекста, потому что он показался автору самым важным, а остальное опускается за ненадобностью. Например, в пик пандемии широкие массы узнали, что коронавирусной инфекцией могут болеть также питомцы. И многие люди рассылали эту новость, спрашивали, можно ли лечить животное от инфекции теми же средствами, что и человека, заразившегося COVID-19, и стоит ли бояться заражения от своего пушистика. Вот только в распространении этой новости многие теряли существенный факт: коронавирусная инфекция у питомцев не всегда вызывается штаммом COVID-19, наиболее часто встречается коронавирусный энтерит, который не имеет ничего общего с пневмонией и протекает в желудочно-кишечном тракте животного.
Шутка выходит из-под контроля
Шутки бывают разные: безобидные и добродушные, а иногда очень злые. К безобидным примерам можно отнести первоапрельскую шутку от SMM-отдела финтех-компании «BDSM-банк: банк, к которому ты привязан».
В 2019 году на 1 апреля в соцсети были выложены дизайны карт и условия обслуживания, по которым менеджер назывался не иначе как «госпожой», кешбэк исчислялся в ударах плетью, а вместо пин-кода было стоп-слово. Авторы поняли, что шалость удалась, когда за день было получено более 400 заявок на открытие карты. Позже всем желающим объяснили, что это была шутка, и, к счастью, никто не пострадал и не вложил деньги в сомнительный проект.
Фейки из шуток, мемов и соцсетей часто кажутся относительно безобидными. Они могут вводить в заблуждение, например, приписывая известному философу цитату из «Смешариков». Но все зависит от масштаба распространения фейка и уровня подготовленности и навыков критического мышления аудитории. Например, в период все той же пандемии получили популярность различные народные практики профилактики заболевания, среди которых были блокаторы коронавируса — бейджи с подозрительным наполнением, которые можно было заметить даже на груди у политиков и известных предпринимателей.
Казалось, такие новости должны миновать людей с хорошим образованием и высокими должностями. Но почему же этого не происходит и порой даже самые рациональные люди поддаются фейкам?
Почему фейки получают огромное распространение
Одна из ключевых черт фейков — способность молниеносно распространяться через практически любой канал коммуникации: от паблика с мемами до сарафанного радио за считаные секунды. Во многом этому способствовало развитие интернета и социальных сетей, разработка алгоритмов выдачи, которые чаще показывают публикации, которые активно комментируются и распространяются самими пользователями. Дальше может сыграть коварную шутку человеческая внимательность: даже если к фейковой публикации кто-то напишет опровергающий комментарий с указанием источников и дословным цитированием, скорее всего, малый процент пользователей отправится на поиски этого опровержения. Может, кто-то запустит обсуждение в комментариях, а кто-то вообще начнет скидывать туда фотографии котиков — и в результате опровержение потеряется, публикация будет замечена алгоритмами, и еще больше людей увидят этот прекрасный фейк.
Но винить только технологии нельзя. Еще в эпоху до существования интернета фейки могли приводить к массовой панике, иногда даже ненамеренно. Например, истории известен случай, ставший практически легендой, когда в США на Хеллоуин в 1938 году решили транслировать радиоспектакль «Война миров» по роману Герберта Уэллса. Для этого мероприятия режиссер и сценарист Орсон Уэллс, руководивший постановкой, выбрал необычный формат: вместо чтения по ролям артисты умело вписали постановку в эфир радиостанции. Один из артистов в назначенное время сообщил о начале спектакля, затем прозвучал прогноз погоды, музыкальная программа, а вслед за этим взволнованный диктор (тоже актер) сообщил о подозрительных вспышках на Марсе и нападении инопланетян. Люди, которые слушали спектакль с самого начала, высоко оценили режиссерский замысел, но гораздо меньше повезло тем, кто слушал репортаж «без контекста». Те, кто пропустил начало, восприняли новости всерьез и действительно решили, что на Землю напали пришельцы.
По данным полицейских, в тот вечер телефонные линии были перегружены в 5 раз, а пробки на выезде из Нью-Йорка и Нью-Джерси растянулись на 100 километров. Пока люди собирали теплые вещи и баррикадировались в домах, по радио напоминали о том, что это радиоспектакль и события вымышлены.
Значит, дело не в технологиях, которые запускают сарафанное радио? Но что же тогда позволяет фейку вызвать в нас самое искреннее желание взять в руки телефон и передать информацию всем своим близким?
Фейк вызывает сильный эмоциональный отклик
Фейк-ньюз могут затрагивать глубинные страхи и попадать в болевые точки читателей так же, как это делает реклама. В этом плане у них одинаковый алгоритм работы, фейк срабатывает как триггер на определенные темы, которые беспокоят многих людей: здоровье, благополучие, безопасность. Мы можем беспокоиться о своем здоровье и в наилучших целях ищем способы его поддерживать, и в этот запрос может попасть псевдоэкспертный комментарий, в котором говорится об исключительном вреде холестерина или о пользе жестких диет и голодания.
Фейк дает пространство для воображения
Фейки часто заставляют нас додумывать и дополнять получаемую информацию. Причем часто это додумывание не имеет никакой логики, как было в случае, когда популярность получила теория, что 5G-вышки распространяют коронавирус, что прививки от COVID-19 — тайная попытка чипировать человечество, и другие теории заговора.
Защитить свое информационное поле от фейков очень сложно. Они могут пробиться к вам через личные чаты с друзьями, через ленту в соцсетях и другие каналы коммуникации. Поэтому помните о критическом мышлении, фактчекинге и информационной гигиене — пока что только они смогут защитить вас при встрече с фейком лицом к лицу.
Александра Иваницкая
Теги
#саморазвитие
#эрудиция
Что такое «фейковые новости»? — «Фейковые новости», ложь и пропаганда: как отличить факты от вымысла
Что такое «фейковые новости»?
Вопрос о «фейковых новостях» был главной темой заголовков в течение нескольких лет.
Как мы определяем термин, который стал означать так много разных вещей для разных людей?
По своей сути, мы определяем «фейковые новости» как новостные сообщения, которые являются ложными: сама история сфабрикована без поддающихся проверке фактов, источников или цитат.
Однако важно признать, что «фейковые новости» — это сложная проблема с множеством нюансов, которая намного шире, чем приведенное выше узкое определение. Сам термин стал политизированным и широко используется для дискредитации любой противоположной точки зрения. Некоторые люди используют его, чтобы подвергнуть сомнению своих оппонентов, спорные вопросы или доверие к некоторым медиа-организациям. Кроме того, технологические достижения, такие как появление социальных сетей, позволяют быстро и легко распространять фальшивые новости, поскольку люди делятся все большим количеством информации в Интернете.
Дезинформация и дезинформация
Вселенная «фейковых новостей» намного шире, чем просто ложные новости. В некоторых историях может быть крупица правды, но не хватает каких-либо контекстуализирующих деталей. Они не могут включать какие-либо поддающиеся проверке факты или источники. Некоторые истории могут включать в себя основные поддающиеся проверке факты, но написаны с использованием намеренно подстрекательского языка, не учитывают важные детали или представляют только одну точку зрения. «Фейковые новости» существуют в более крупной экосистеме из ложная и дезинформация .
Дезинформация – ложная или неточная информация, ошибочно или непреднамеренно созданная или распространенная; цель не в том, чтобы обмануть. Дезинформация — это ложная информация, которая намеренно создается и распространяется «с целью повлиять на общественное мнение или скрыть правду» (https://www.
Клэр Уордл из First Draft News создала полезное визуальное изображение ниже, чтобы помочь нам задуматься об экосистеме дезинформации. И, как она указывает, «это сложно».
Откуда и почему?
Дезинформация и дезинформация производятся по целому ряду сложных причин:
- Пристрастные субъекты хотят влиять на избирателей и политиков в политических целях или влиять на общественное мнение (например, преднамеренно распространяя дезинформацию о фальсификациях выборов)
- Больше кликов — больше денег. Некоторые новости создаются людьми, которые хотят получить клики для получения финансовой выгоды, независимо от содержания (например, македонские подростки)
- Политические режимы хотят продвигать свою собственную пропаганду (например, использование Россией «фейковых новостей» в качестве оружия, чтобы контролировать нарратив вокруг ее вторжения в Украину)
- Сатирики хотят либо высказать свое мнение, либо развлечь вас, либо и то, и другое
- Размытые границы между новостями и развлечениями, взрывной рост новостных сайтов, а также давление 24-часового цикла новостей могут способствовать некачественному письму, которое не соответствует профессиональным журналистским стандартам или этике
Технологическая простота копирования, вставки, щелчка и обмена контентом в Интернете способствовала распространению ложной информации и дезинформации.
В некоторых случаях истории предназначены для того, чтобы вызывать эмоциональный отклик, и размещаются на определенных сайтах («создаются»), чтобы побудить читателей широко ими делиться. В других случаях статьи о «фальшивых новостях» могут создаваться и распространяться «ботами» — компьютерными алгоритмами, которые предназначены для того, чтобы действовать как люди, обменивающиеся информацией, но могут делать это быстро и автоматически.
Эти фальшивые люди, созданные искусственным интеллектом, кажутся вам реальными?
Сейчас есть предприятия, которые продают поддельных людей. На сайте Generated.Photos можно купить «уникального, беззаботного» поддельного человека за 2,99 доллара или 1000 человек за 1000 долларов. Если вам просто нужна пара поддельных людей — для персонажей видеоигры или для разнообразия веб-сайта вашей компании — вы можете бесплатно получить их фотографии на ThisPersonDoesNotExist.com. Отрегулируйте их сходство по мере необходимости; сделайте их старыми или молодыми или этнической принадлежностью по вашему выбору.
Если вы хотите, чтобы ваш фальшивый человек анимировался, компания Rosebud.AI может сделать это и даже заставить его говорить.
Эти смоделированные люди начинают появляться в Интернете, используя их в качестве масок реальными людьми с гнусными намерениями: шпионы, которые делают красивое лицо, пытаясь проникнуть в разведывательное сообщество; правые пропагандисты, которые прячутся за поддельными профилями, фотографиями и всем прочим; онлайн-преследователей, которые троллит свои цели с дружелюбным видом.
Мы создали собственный ИИ. система, чтобы понять, как легко создавать разные поддельные лица.
А.И. система видит каждую грань как сложную математическую фигуру, диапазон значений, которые можно сдвигать. Выбор различных значений — например, тех, которые определяют размер и форму глаз — может изменить все изображение.
Перспектива
Для других качеств наша система использовала другой подход. Вместо смещения значений, определяющих определенные части изображения, система сначала сгенерировала два изображения, чтобы установить начальную и конечную точки для всех значений, а затем создала промежуточные изображения.
Пол
Раса и этническая принадлежность
Создание этих типов поддельных изображений стало возможным только в последние годы благодаря новому типу искусственного интеллекта, называемому генеративно-состязательной сетью. По сути, вы скармливаете компьютерной программе кучу фотографий реальных людей. Он изучает их и пытается придумать свои собственные фотографии людей, в то время как другая часть системы пытается определить, какие из этих фотографий являются поддельными.
Это делает конечный продукт еще более неотличимым от реального. Портреты в этой статье были созданы The Times с использованием программного обеспечения GAN, которое стало общедоступным компанией Nvidia, занимающейся компьютерной графикой.
Учитывая темпы совершенствования, легко представить себе недалекое будущее, в котором мы сталкиваемся не с отдельными портретами фальшивых людей, а с целыми их коллекциями — на вечеринках с фальшивыми друзьями, тусовками с их фальшивыми собаками, держат своих поддельных детей.
«Когда эта технология впервые появилась в 2014 году, она была плохой — она была похожа на Sims», — сказала Камилла Франсуа, исследователь дезинформации, чья работа заключается в анализе манипулирования социальными сетями. «Это напоминание о том, как быстро могут развиваться технологии. Обнаружение со временем будет становиться только сложнее».
Успехи в подделке лиц стали возможными отчасти потому, что технологии стали намного лучше определять ключевые черты лица. Вы можете использовать свое лицо, чтобы разблокировать свой смартфон, или попросить программное обеспечение для обработки фотографий отсортировать ваши тысячи фотографий и показать вам только те, которые принадлежат вашему ребенку. Программы распознавания лиц используются правоохранительными органами для выявления и ареста подозреваемых в совершении преступлений (а также некоторыми активистами для раскрытия личности полицейских, которые прикрывают свои именные бейджи, пытаясь сохранить анонимность).
Но алгоритмы распознавания лиц, как и другие системы искусственного интеллекта, системы не совершенны. Из-за скрытой предвзятости данных, используемых для их обучения, некоторые из этих систем не так хороши, например, в распознавании цветных людей. В 2015 году первая система обнаружения изображений, разработанная Google, пометила двух чернокожих как «горилл», скорее всего, потому, что система получила гораздо больше фотографий горилл, чем людей с темной кожей.
Более того, камеры — глаза систем распознавания лиц — не так хорошо снимают людей с темной кожей; этот неудачный стандарт восходит к ранним дням развития пленки, когда фотографии были откалиброваны, чтобы лучше всего отображать лица светлокожих людей.
Последствия могут быть тяжелыми. В январе темнокожий мужчина в Детройте по имени Роберт Уильямс был арестован за преступление, которого он не совершал, из-за неправильного распознавания лиц.
Искусственный интеллект может облегчить нашу жизнь, но в конечном итоге он так же несовершенен, как и мы, потому что за всем этим стоят мы. Люди выбирают, как ИИ системы сделаны и какие данные они подвергаются. Мы выбираем голоса, которые учат слышать виртуальных помощников, заставляя эти системы не понимать людей с акцентом. Мы разрабатываем компьютерную программу для прогнозирования преступного поведения человека, передавая ей данные о прошлых решениях, вынесенных судьями-людьми, и в процессе учитываем предубеждения этих судей. Мы помечаем изображения, которые обучают компьютеры видеть; затем они ассоциируют очки с «слабаками» или «ботаниками».
Вы можете заметить некоторые из ошибок и шаблонов, которые мы обнаружили, что наш ИИ. система повторялась, когда создавала поддельные лица.
Люди, конечно, ошибаются: мы не замечаем или не замечаем недостатков этих систем, слишком быстро веря, что компьютеры сверхрациональны, объективны и всегда правы. Исследования показали, что в ситуациях, когда люди и компьютеры должны сотрудничать для принятия решения — идентифицировать отпечатки пальцев или человеческие лица — люди постоянно ошибались в идентификации, когда компьютер подталкивал их к этому. В первые дни систем GPS на приборных панелях водители, как известно, следовали указаниям устройств до ошибки, отправляя автомобили в озера, с обрывов и в деревья.
Это смирение или высокомерие? Придаем ли мы слишком мало значения человеческому интеллекту — или мы переоцениваем его, предполагая, что мы настолько умны, что можем создавать вещи еще умнее?
Алгоритмы Google и Bing сортируют за нас мировые знания. Лента новостей Facebook фильтрует обновления из наших социальных кругов и решает, какие из них достаточно важны, чтобы показать нам. Благодаря функциям автономного вождения в автомобилях мы отдаем нашу безопасность в руки (и глаза) программного обеспечения.