Читать книгу - "Нексус. Краткая история информационных сетей от каменного века до искусственного интеллекта - Юваль Ной Харари"

1978 году его шеф-шпион Ион Михай Пачепа дезертировал в США. Члены Политбюро, высокопоставленные чиновники, генералы армии и руководители "Секуритате" жили под еще более пристальным наблюдением, чем Иосифеску. По мере того как ряды тайной полиции пополнялись, требовалось все больше агентов, чтобы шпионить за всеми этими агентами.

Одним из решений было заставить людей шпионить друг за другом. Помимо 40 000 профессиональных агентов, Securitate опиралась на 400 000 гражданских информаторов.6 Люди часто сообщали о своих соседях, коллегах, друзьях и даже самых близких членах семьи. Но сколько бы информаторов ни нанимала тайная полиция, сбора всех этих данных было недостаточно для создания режима тотальной слежки. Предположим, "Секуритате" удалось завербовать достаточно агентов и осведомителей, чтобы следить за каждым человеком двадцать четыре часа в сутки. В конце каждого дня каждый агент и информатор должен был бы составлять отчет о том, что он наблюдал. В штаб-квартиру "Секуритате" ежедневно поступало 20 миллионов отчетов - 7,3 миллиарда отчетов в год. Если их не анализировать, это был просто океан бумаги. Но где Секуритате найти достаточно аналитиков, чтобы тщательно изучать и сравнивать 7,3 миллиарда отчетов в год?

Эти трудности со сбором и анализом информации означали, что в двадцатом веке даже самое тоталитарное государство не могло эффективно следить за всем своим населением. Большая часть того, что делали и говорили румынские и советские граждане, ускользала от внимания Секуритате и КГБ. Даже те детали, которые попадали в какой-нибудь архив, часто оставались непрочитанными. Настоящая сила Секуритате и КГБ заключалась не в способности постоянно следить за всеми, а в их способности внушать страх, что за ними могут следить, что заставляло всех быть крайне осторожными в своих словах и поступках.

 

БЕССОННЫЕ АГЕНТЫ

В мире, где слежка ведется органическими глазами, ушами и мозгом людей, подобных агенту Securitate в лаборатории Иосифеску, даже у такой главной мишени, как Иосифеску, все еще оставалось немного личного пространства, прежде всего в его собственном сознании. Но работа ученых-компьютерщиков, таких как сам Иосифеску, меняла ситуацию. Уже в 1976 году грубый компьютер, стоявший на столе Иосифеску, мог обрабатывать цифры гораздо лучше, чем агент Securitate в соседнем кресле. К 2024 году мы приблизимся к тому моменту, когда вездесущая компьютерная сеть сможет следить за населением целых стран двадцать четыре часа в сутки. Этой сети не нужно нанимать и обучать миллионы людей, чтобы следить за нами; вместо этого она использует цифровых агентов. И сети даже не нужно платить за этих цифровых агентов. Граждане платят за агентов по собственной инициативе, и мы носим их с собой, куда бы мы ни пошли.

Агент, следящий за Иосифеску, не сопровождал Иосифеску в туалет и не сидел на кровати, когда Иосифеску занимался сексом. Сегодня именно это иногда делает наш смартфон. Более того, многие действия, которые Иосифеску совершал без помощи компьютера - чтение новостей, общение с друзьями, покупка продуктов - теперь совершаются в Интернете, поэтому сети еще проще узнать, что мы делаем и говорим. Мы сами являемся информаторами, которые предоставляют сети наши исходные данные. Даже те, у кого нет смартфонов, почти всегда находятся в орбите действия какой-нибудь камеры, микрофона или устройства слежения, и они тоже постоянно взаимодействуют с компьютерной сетью, чтобы найти работу, купить билет на поезд, получить рецепт на лечение или просто пройтись по улице. Компьютерная сеть стала связующим звеном большинства видов деятельности человека. Почти в каждой финансовой, социальной или политической сделке мы находим компьютер. Следовательно, как Адам и Ева в раю, мы не можем спрятаться от заоблачного ока.

Как компьютерной сети не нужны миллионы человеческих агентов, чтобы следить за нами, так и ей не нужны миллионы человеческих аналитиков, чтобы разобраться в наших данных. Океан бумаг в штаб-квартире Securitate никогда не анализировал сам себя. Но благодаря волшебству машинного обучения и искусственного интеллекта компьютеры могут сами анализировать большую часть информации, которую они накапливают. В среднем человек может прочитать около 250 слов в минуту. Аналитик Securitate, работающий по двенадцать часов без выходных, за сорок лет своей карьеры может прочитать около 2,6 миллиарда слов. В 2024 году такие языковые алгоритмы, как ChatGPT и Meta's Llama, смогут обрабатывать миллионы слов в минуту и "читать" 2,6 миллиарда слов за пару часов. Способность таких алгоритмов обрабатывать изображения, аудиозаписи и видеоматериалы столь же сверхчеловечна.

Еще важнее то, что алгоритмы значительно превосходят человека в способности выявлять закономерности в этом океане данных. Выявление закономерностей требует как способности создавать идеи, так и способности принимать решения. Например, как люди-аналитики определяют человека как "подозреваемого террориста", который заслуживает более пристального внимания? Сначала они создают набор общих критериев, таких как "чтение экстремистской литературы", "дружба с известными террористами" и "наличие технических знаний, необходимых для производства опасного оружия". Затем они должны решить, соответствует ли конкретный человек достаточным критериям, чтобы его можно было назвать подозреваемым террористом. Предположим, кто-то просмотрел сотню экстремистских видео на YouTube в прошлом месяце, дружит с осужденным террористом и в настоящее время получает докторскую степень по эпидемиологии в лаборатории, где хранятся образцы вируса Эбола. Должен ли этот человек быть внесен в список "подозреваемых в терроризме"? А как насчет того, кто посмотрел пятьдесят экстремистских видеороликов в прошлом месяце и является студентом биологического факультета?

В Румынии 1970-х годов такие решения могли принимать только люди. К 2010-м годам люди все чаще оставляли решение за алгоритмами. Примерно в 2014-15 годах Агентство национальной безопасности США развернуло инструмент искусственного интеллекта под названием Skynet, который помещал людей в список "подозреваемых террористов" на основе электронных моделей их коммуникаций, записей, путешествий и публикаций в социальных сетях. Согласно одному из отчетов, этот инструмент ИИ "ведет массовое наблюдение за пакистанской сетью мобильных телефонов, а затем использует алгоритм машинного обучения на метаданных сотовой сети 55 миллионов человек, чтобы попытаться оценить вероятность того, что каждый из них является террористом". Бывший директор ЦРУ и АНБ заявил, что "мы убиваем людей на основе метаданных". Надежность "Скайнета" подверглась серьезной критике, но к 2020-м годам подобные технологии стали гораздо более совершенными и были развернуты гораздо большим числом правительств. Просматривая огромные массивы данных, алгоритмы могут обнаружить совершенно новые критерии для определения человека как "подозреваемого", которые раньше ускользали от внимания человеческих аналитиков. В будущем алгоритмы могут даже создать совершенно новую модель того, как люди становятся радикалами, просто выявив закономерности в жизни известных террористов. Конечно, компьютеры по-прежнему ошибаются, о чем мы подробно поговорим в главе 8. Они вполне могут классифицировать невинных людей как террористов или создать ложную модель