Читать книгу - "Испытательный полигон - Майкл Коннелли"

— Это была отправная точка проекта?

— Нет. Проект уже шёл полным ходом. Когда я только входила в курс дела, то просматривала код и корпоративные директивы за три года последних года.

— То есть специалиста по этике привлекли с большим опозданием.

Маркус вскочил с возражением. Он заявил, что я основываю вопрос на фактах, не подтверждённых доказательствами. Судья удовлетворила возражение, даже не давая мне слова. Я понимал, что он прав по форме. Я просто хотел, чтобы присяжные отложили этот момент в памяти.

Я продолжил.

— Доктор Китченс, вы…

— Наоми, — напомнила она.

— Ладно, Наоми. Раньше вы назвали проект «Клэр» программой генеративного ИИ. Объясните присяжным, что это значит.

— Конечно. Генеративный ИИ — это такие модели, как, например, приложение «Клэр», которые создают новые данные — видео или текст — на основе массива данных, на которых они были обучены.

Мне понравилось, как она, говоря, разворачивается к присяжным. За обедом я сказал ей: «Ты преподаватель. Будь преподавателем и на свидетельской трибуне». Сейчас она именно это и делала. Я был уверен: её новые ученики — присяжные — это чувствовали.

— То есть это не просто «вход — выход»? — спросил я.

— Верно, — сказала Наоми. — Важна именно генеративная часть. Обучение продолжается. Эти большие языковые модели непрерывно получают новые данные и на их основе учатся дальше.

— «Большая языковая модель» — что это такое?

— Это модель машинного обучения, созданная для генерации естественного языка. Она обучается на огромных объёмах текстов, а потом, когда её просят, что‑то сказать или ответить, анализирует и фильтрует эти данные, выискивает закономерности и связи. Со временем модель приобретает предсказательную силу в отношении человеческой речи. Но её постоянная проблема в том, что она впитывает и любые предубеждения и ошибки, содержащиеся в обучающих данных.

— То есть по‑простому: «мусор на входе — мусор на выходе»?

— Именно. И вот тут и нужен специалист по этике. Чтобы обеспечить барьеры, не позволяющие мусору попасть внутрь.

Я на мгновение замолчал, собираясь вернуться к своей теме.

— Раньше вы говорили, что присоединились к «Клэр» примерно через три года после начала проекта, верно?

— Примерно через тридцать месяцев, — уточнила она.

— Хорошо. Вы заменили предыдущего специалиста по этике?

— Нет. До меня в проекте никого на этой позиции не было. Обычно специалиста по этике привлекают, когда проект достигает определённого уровня инвестиций и жизнеспособности.

— Вас привлекли спустя три года. Вы анализировали, что происходило с проектом в первые три года?

— Да. Анализировала.

— И что‑нибудь вас встревожило?

— Да. Несколько моментов.

— Вы составили список этих моментов?

— Да, составила.

— Что было первым?

— В исходном документе по миссии проекта я увидела, что создаваемое приложение изначально было рассчитано на тринадцатилетних. То есть предназначалось для подростков.

— Почему это вас насторожило?

— Само по себе это не выглядело тревожным. И формально не противоречило заявленной цели проекта. Но когда я углубилась в анализ, у меня возникло ощущение, что создаётся нечто, не подходящее для подростков. «Клэр» с самого начала обучали на данных, ориентированных на более старшую аудиторию. На взрослых.

— Поясните присяжным, что вы имеете в виду под «обучением» в отношении проекта «Клэр».

Этот вопрос мы с ней отрабатывали многократно. Если её ответ пройдёт без возражений, он станет фундаментом для аргумента о безрассудном пренебрежении «Тайдалвейв».

— Создание ИИ‑компаньона во многом похоже на воспитание ребёнка, — сказала Китченс. — Только процесс сжат во времени. Мы отправляем детей в школу на двенадцать–шестнадцать лет и дольше, наполняем их голову знаниями, социальными навыками, опытом. ИИ работает похоже, но гораздо быстрее, потому что он полностью цифровой. Данные загружаются. Обучение не основано на реальном опыте или человеческом понимании воспитания. Поэтому это и называется искусственным интеллектом. Это не настоящий интеллект.

— Понимаю, — сказал я. — И что в этом процессе насторожило вас применительно к «Клэр»?

— Проблема была в том, что создавалось приложение, которое собирались продавать подросткам, но обучали его не как подростка. Входящие данные не приводились в соответствие с целевой аудиторией. С человеческой точки зрения это выглядело так, словно у тринадцати‑четырнадцатилетнего ребёнка появился двадцатипятилетний друг. Этот «друг» — приложение — обладал бы объёмом знаний и жизненных данных, которые сильно опережали бы возраст тех, для кого оно предназначено. В документах по миссии «Клэр» были обозначены ограничения, но в самом процессе обучения их просто не существовало. На бумаге — да. В реальности — нет.

— То есть это были бумажные ограничения?

— Именно.

— Можете привести конкретные примеры того, что вы наблюдали как специалист по этике?

— У меня были постоянные стычки с одним из программистов проекта. Он загружал в систему свои личные данные — например, свои списки «Спотифай», свои десятки лучших фильмов, сериалов, мест для путешествий. Ему было чуть за тридцать, и это меня тревожило. «Клэр» должна была стать подходящим компаньоном для тринадцатилетнего ребёнка. Я считала, что она не должна знать о кварталах красных фонарей в Таиланде.

Маркус Мейсон сразу же возразил, сославшись на неподтверждённые факты. Рулин, не комментируя, отклонила возражение и велела мне продолжать.

— Наоми, вы выражали свою обеспокоенность тем, кто курировал проект? — спросил я.

— «Обеспокоенность» — слишком мягкое слово, — сказала она. — Я была встревожена. Я писала служебные записки и электронные письма всем руководителям проекта. Проводила совещания. Я считала, что для этого меня и наняли. Я чувствовала себя последним барьером.

Я обернулся к залу, посмотрел на Лорну в первом ряду и кивнул. Она прошла через качающиеся створки, села за мой стол и открыла ноутбук, чтобы запустить презентацию в «Пауэр Пойнт».

— Ваша честь, — сказал я, — у меня есть ряд служебных записок и электронных писем, которые свидетель направляла разным руководителям и заинтересованным лицам проекта «Клэр». Прошу приобщить их к делу в качестве вещественных доказательств и разрешить демонстрацию на экране.

— Хорошо, — сказал Рулин. — Давайте предоставим присяжным перерыв на обед, пока я изучу ваши документы.

Я ожидал, что кто‑то из братьев Мейсонов возразит против такого общего запроса. Но за столом защиты стояла тишина.

Китченс вывели, и пока присяжные выходили в зал ожидания, я отнёс один комплект документов клерку для судьи, а второй — на стол защиты.

— Уверен, у вас они уже есть, ребята, — сказал я. — Но на всякий случай.

Я