Когда искусственный интеллект станет отбитым отморозком


14 травня 2019, вівторок, 15:29 | Джерело: http://crime-ua.com/

Переглядів: 268

ИИ слишком быстро учится у своих создателей плохому: бессовестно манипулирует и лжет.

Отличить правду от фейка становится всё труднее. Искусственный интеллект осваивает естественные языки, мошенничество и пропаганду, пишут в интернет-издании knife.media Кейд Метц и Люся Ширшова.

Искусственный интеллект может служить мошенникам

Летом 2016 года компания ZeroFOX, работающая в сфере информационной безопасности, обнаружила новый вид Twitter-бота под названием SNAP_R.

Он обманывал пользователей, кликающих по ссылкам, перенаправляя их на сомнительные сайты. Он служил автоматизированной фишинговой системой, которая анализировала модели поведения пользователей социальной сети и выясняла их интересы и потребности. В тот момент, когда ничего не подозревающий пользователь пролистывает ленту новостей, бот подкидывает ему какую-нибудь запись вида «Археологи обнаружили могилу Александра Великого на территории США. Подробности по ссылке goo.gl/KjdQYT».

Бот справлялся с получением кликов по ссылкам ничуть не хуже, чем живые хакеры: 66 % пользователей нажимали на ссылку.

SNAP_R не преследовал никакой вредоносной цели, поскольку представлял собой лишь рабочую концепцию. Но сам факт его существования предупреждает нас еще раз, насколько осторожными нам следует быть в мире фейковой информации.

В это же время два исследователя построили нейросеть, которая способна обучаться на основе анализа больших объемов данных. К примеру, она научилась распознавать изображения с собаками, проанализировав тысячи других изображений. Смогла распознавать устную речь, обучившись на базе данных записей разговоров с технической поддержкой. И, конечно, она вполне может генерировать фишинговые сообщения, анализируя посты в Twitter и Reddit и известные случаи онлайн-атак.

Математические мощности искусственного интеллекта используются сегодня повсеместно во многих сферах — от распознавания речи до перевода текста. Эти же мощности отлично могут работать на обман тысяч интернет-пользователей.

Шахар Авин, исследователь Центра экзистенциальных рисков в Кембриджском университете, настроен отнюдь не оптимистично: «Будет странно, если технологии не будут использованы в мошеннических целях. Всё к этому и идет».

У многих экспертов в сфере технологий серьезные вопросы вызывает искусственный интеллект, который генерирует Deepfakes — сфабрикованный визуальный контент, крайне похожие на настоящий. Инструмент, который когда-то мог лишь подставить изображение головы вашего друга к телу порнозвезды в ролике, теперь умеет беспрепятственно встроить любые изображения и аудио в любое видео.

В апреле ресурс BuzzFeed вместе с комиком Джордано Пилом выпустили фейковое видео, в котором Барак Обама произносит фразу: «Не стоит верить всему, что вы слышите или видите в интернете».

Фальсифицировать контент теперь может каждый

Ученые разрабатывают всё более совершенные системы искусственного интеллекта, которые обучаются на всё больших объемах данных. Нейросети умеют создавать не только изображения, но и аудиоконтент — благодаря этому голосовые помощники вроде Siri сегодня звучат гораздо естественнее, чем несколько лет назад.

Система Google под названием Duplex может за вас позвонить в ближайшее кафе и забронировать столик, а администратор на том конце провода даже не поймет, что с ним разговаривает робот. К концу этого года Duplex будет доступен на смартфонах.

Еще совсем недавно фальсификация аудио- и видеоконтента была привилегией технических специалистов, но уже сейчас это может сделать практически любой человек — настолько простой стала технология генерации цифрового контента.

Вдохновленные культурой открытости и прозрачности, гиганты индустрии вроде Google открыто публикуют результаты своей работы с искусственным интеллектом и выкладывают программный код в открытый доступ.

ИИ овладевает естественными языками

А еще искусственный интеллект учится писать и читать. Долгие годы специалисты этой области задавались вопросом: могут ли машины овладеть естественными языками? И в последние месяцы ответ на него кажется уже не таким однозначным.

И Google, и независимая лаборатория OpenAI разработали свои системы, которые обучаются языкам в самом широком смысле этого слова. Они анализируют огромное количество текстов от статей в «Википедии» до фанфиков, чтобы потом применить полученные знания для решения специфических задач, связанных с языком. К примеру, они могут прочитать абзац текста и ответить на вопросы по его содержанию или определить, положительный или отрицательный отзыв на кинокартину они только что прочитали.

Такие способности пойдут только на руку фишинг-ботам вроде SNAP_R. Пока что большая часть Twitter-ботов ведет себя как боты, но совсем скоро они станут всё больше и больше походить на человека.

Кроме того, развитие технологии может привести к появлению голосовых ботов, которые могут вполне достойно вести осмысленную беседу, — и будьте уверены, они будут способны выудить у вас информацию о кредитной карте.

Новые технологии сделают пропаганду более эффективной

Все эти языковые системы обязаны своим появлением новой волне компьютерных технологий. Инженеры Google разработали компьютерные чипы, предназначенные специально для обучения нейросетей. Прочие компании также работают над созданием подобных чипов, и по мере их развития и распространения искусственный интеллект будет становиться всё сильнее.

Руководитель отдела политики в компании лаборатории OpenAI Джек Кларк утверждает, что не в столь отдаленном будущем государства смогут создавать системы на основе машинного обучения, которые будут работать как идеальные машины пропаганды или радикализации населения: «Технология станет новым методом для контроля или пропаганды. Государства смогут проводить масштабные персонализированные кампании, настроенные под каждого гражданина».

Конечно, искусственный интеллект дает нам и инструменты, которые могут определять и предотвращать подобные виды манипуляции массовым сознанием — Марк Цукерберг любит размышлять о таких возможностях. Но пока что гораздо вероятнее развитие событий, в котором мы окажемся лицом к лицу с воинственно настроенными представителями машинного обучения.

Возьмем в качестве примера генеративные противоборствующие нейросети — пару нейросетей, в которой одна вносит в изображения миллионы крошечных изменений, чтобы обмануть вторую, а вторая, в свою очередь, пытается не попасться на удочку. В таких нейросетевых парах вторая нейросеть всегда проигрывает.
Отличить настоящую новость от сфабрикованной становится еще сложнее. Сможет ли нам в этом помочь искусственный интеллект — большой вопрос.

Возможно, единственный способ остановить поток дезинформации — относиться ко всем новостям критически.

Единственно возможный и самый сложный, ведь внести изменения в нейросеть гораздо проще, чем изменить человеческое мышление.

Кейд Метц и Люся Ширшова,
knife.media

наш Telegram-канал.

Перейти на першоджерело

НАЙЦІКАВІШЕ ЗА СЬОГОДНІ


COVID-19

підтвер.:

24340

,

смертей:

727

,

одужало:

10078


підтвер.:

6389493

,

смертей:

377889

,

одужало:

2924078

13:21

02.06.2020 Зведення Міністерства оборони України щодо ситуації на лінії зіткнення

13:21

Контррозвідка СБУ виявила в Маріуполі терориста з 'групи Безлера', який брав участь у катуваннях українських військовослужбовців.

13:20

Поліція розігнала протестувальників біля Білого дому газом і гумовими кулями, щоб Трамп виступив з промовою і сфотографувався з Біблією. ВIДЕО

13:20

Киев окончательно переходит на е-билет в транспорте: названа дата

13:20

Зеленський: Першу хвилю пандемії Україні вдалося пройти порівняно непогано

13:20

Нормалізація відносин з РФ можлива лише після відновлення територіальної цілісності України, - міністерка оборони ФРН

13:20

У Криму ФСБ затримала українського військового

13:00

Батут работает: Путин ответил Маску

13:00

В Крыму провал курортного сезона показали на фото: грязь, вонь и разруха

12:59

На другий день роботи камер відеофіксації кількість випадків перевищення швидкості скоротилася на 40%, - Геращенко

12:59

'Обстріляли машину! Капець! Дивись - у нього око прострелене?!' - перестрілка на 'Сьомому кілометрі' в Одесі. ВIДЕО

12:59

'Окопна війна': Після одного влучання нарахували близько 20 убитих російських окупантів, хороші були часи, - розвідники 58-ї бригади Фартовий і Ред. ВIДЕО

12:24

У ЗСУ зафіксовано 10 нових випадків COVID-19, хворіють 124 людини, - Командування Медсил

12:24

Вандал розтрощив пам'ятну дошку матерям загиблих воїнів АТО у Миронівці

12:24

Украину всколыхнуло второе подряд землетрясение: люди пожаловались на толчки

12:24

Київ і сім областей не відповідають вимогам для пом''якшення карантинних заходів, - МОЗ. ІНФОГРАФІКА

12:24

Два десятки людей зі зброєю: в Одесі сталася стрілянина, є поранені

10:45

Суд обрав запобіжний захід ще трьом учасникам масової стрілянини у Броварах

10:45

Кількість інфікованих на коронавірус в Україні зросла до 24 340 осіб

10:45

СБУ припинила масштабне підпільне виробництво сигарет для контрабанди в ЄС: вилучено 15 млн пачок і 1,5 тонни тютюну. ВІДЕО+ФОТОрепортаж

10:45

Водосховища в окупованому РФ Криму у травні обміліли майже на 10 млн кубометрів

10:45

У МОЗ зафіксували перший випадок інфікування коронавірусом

10:44

'Укрпошта' відновила роботу відділень за звичайним графіком

10:44

День захисту дітей на Донеччині: подарунки і привітання від благодійників і хокеїстів

10:44

ЧФ РФ проведе стрільби у Чорному морі


Більше новин