С ростом доступности для государства информации о человеке преступником может оказаться каждый.
Четыреста лет назад один из величайших защитников эмпирического знания сэр Фрэнсис Бэкон описал в утопической «Новой Атлантиде» идеальное государство, которое управляется сообразно не прихотям толпы, но мудрым советам ученого общества под названием «Дом Соломона». По его лекалам было создано впоследствии Королевское общество, самая заслуженная Академия наук. Однако политическая программа философа начала воплощаться только несколько лет назад по другую сторону Атлантики. Информация стала приобретать собственную власть.
Администрация президента Обамы любит повторять, что ее политика основана не на эмоциях, а на фактах. Чиновники гордятся «большими данными», которые собирают миллионами терабайтов и используют затем для выяснения ответов на самые разные вопросы современности. В марте 2012 года правительство опубликовало даже что-то вроде путеводителя по разнообразным применениям больших данных для военных и гражданских нужд, от диагностики рака до освоения космоса. Год спустя оказалось, что в список можно добавить и сбор частной информации миллионов американцев, поступающей в правительство с серверов крупных интернет-компаний. В скандале оказались замешаны Google, Yahoo!, Microsoft, Facebook и еще несколько фирм.
Благодаря Эдварду Сноудену мир узнал наверняка то, о чем прежде догадывался: США и Великобритания массовым образом шпионят за коммуникациями своих сограждан. Формально под колпаком только иностранцы, но система столь неизбирательна, что и собственные граждане не могут быть уверены в неприкосновенности своих коммуникаций. В конце июня газета Le Monde выяснила, что и французское правительство, громко возмущавшееся своими партнерами по НАТО, ничем не лучше. Что происходит в других странах, не имеющих вековых традиций представительной демократии, можно только догадываться.
Правительства везде и всегда делают ровно столько, сколько им позволяют сделать, и значит, пора привыкать к мысли, что все наши письма будут прочитаны и проанализированы умным алгоритмом. У такого положения дел есть несколько следствий, о которых стоит задуматься уже сейчас.
На первый взгляд обработка больших массивов данных производит впечатление научного труда, но никакой науки в этом занятии нет. Обучающиеся алгоритмы могут филигранно выделять корреляции, но по определению не могут выявлять причинно-следственных связей, как и создавать нормальные гипотезы и реалистичные модели поведения человека. Призывы к джихаду в личной переписке, любовь к иранской национальной кухне или хладнокровное планирование теракта — это всего лишь слепые переменные, которым компьютер может придать вес, но не может понять ни их смысла, ни разницы между ними. В обычном мире назначить кого-то виновным должны люди, в первую очередь судьи и присяжные, но в эпоху больших данных эта функция хотя бы отчасти перейдет к алгоритмам.
Кроме того, доступность данных создает специфические стимулы у людей, призванных бороться с преступностью. В конце концов, правоохранительные органы полагают, что должны ловить не только террористов, но и людей, превышающих скорость на дороге или уходящих от уплаты налогов. Рациональный и технически подкованный прокурор не будет гоняться за сотнями нарушителей; он предпочтет написать компьютерный алгоритм, который будет искать инкриминирующую информацию в частных данных налогоплательщиков. Если верить серверу Apple, ваш iPhone перемещался по шоссе со скоростью 150 км в час? Платите штраф.
Наконец, качественная работа с базами данных способна превратить в преступника любого человека. В любой стране есть множество довольно странных законов и ни один гражданин не знает их всех: когда-нибудь он проболтается. В этом случае ему останется надеяться на добрую волю чиновников — занятие печальное, учитывая, что даже великий философ Бэкон был осужденным коррупционером.
Искренняя любовь к информации в отсутствие понимания, что с ней делать, и политической воли — источник не только добра, но и зла.
(с) Андрей Бабицкий