Цукерберг, не раскачивай лодку: Facebook как угроза тоталитарного добра
Пока российские власти борются с Telegram, объясняя стремление заблокировать мессенджер Павла Дурова опасностями, которые таит в себе возможность свободного обмена информацией, Конгресс США требует ответа от Марка Цукерберга, в чьих руках, по мнению конгрессменов, оказалось слишком много рычагов влияния на пользователей. Даже благие намерения и прогрессивные взгляды не спасают создателя популярной соцсети от подозрений в желании собирать чувствительную информацию (хотя кто ее не собирает?) и контролировать людей. Глава подразделения Inc.com в Сан-Франциско Джефф Берковичи объясняет, чего именно боятся те, кто считает Facebook корпорацией зла.
На протяжении двух дней CEO Facebook упорно держался за свои набившие оскомину тезисы, доходил до абсурда, пытаясь доказать что не знал, как работает его соцсеть, а каждый свой ответ старательно начинал с официального обращения «Сенатор». За эти два дня никому так и не удалось его подловить — по понятным причинам.
Политики, чтобы выглядеть пожестче, перебивали Цукерберга на полуслове — тем самым помогая ему держать язык за зубами. Задавали ему вопросы, которые вроде как должны были стать для Цукерберга ловушками, — но не стали. Продемонстрировали глубокое непонимание того, как работает Facebook в частности и интернет вообще — и позволили Цукербергу, не выходя из зоны комфорта, выдавать в ответ шаблонные заготовки типа «Сенатор, на самом деле Facebook не продает никому данные пользователей».
Разумеется, на фоне сенсационной новости о том, что компания Cambridge Analytica, консультировавшая во время выборов Дональда Трампа, получила доступ к профилям 87 млн пользователей соцсети, сенаторы сосредоточились на вопросах о политике приватности. Но Facebook — не единственная компания, которая сгребает все данные потребителей, до которых может дотянуться: Google собирает еще более чувствительную информацию (если кто-то хочет узнать, не является ли его прыщик симптомом венерического заболевания, он идет в поисковик, а не пишет статус в соцсети), Apple отслеживает геолокацию вашего iPhone и знает, куда вы собираетесь, еще до того как вы сели в машину, а Amazon может в буквальном смысле подслушивать, что происходит у вас в гостиной или спальне, — если вы поставили там смарт-динамик Echo.
Главное отличие Facebook не в том, что он собирает данные пользователей, а в том, что он одновременно пытается повлиять на их поведение — чего не делает никто из других технологических компаний. Сбор данных и влияние на поведение пользователей — гремучая смесь вроде глицерина с азотной кислотой.
Любой продукт в какой-то степени меняет поведение пользователя. Но Facebook, который умеет делать так, чтобы вы добавляли больше друзей, чаще делились информацией, проводили больше времени в сети, — на этом не останавливается. Facebook может заставить пойти на выборы тех, кто не собирался, убедить людей становиться донорами органов, а сейчас работает над тем, чтобы пользователи активнее участвовали в работе местных органов самоуправления и поддерживали региональные СМИ.
Все это не кажется чем-то плохим — наоборот, демонстрирует несколько утопические мировоззрения Цукерберга. Он убежден в позитивном начале человеческой природы — если больше людей смогут выразить свои идеи, проголосовать или стать волонтерами, мир станет лучше. Но сам же Цукерберг говорил, что в первые 10 лет существования соцсети он был «слишком сфокусирован на позитиве» и потому компания не заметила всех тех злоупотреблений, которые благодаря ей стали возможны.
Франсуа Шолле, который работает над технологиями deep learning в Google, думает, что способность Facebook одновременно оценивать поведение пользователей и влиять на него, очень опасно, так как порождает угрозу «массового контроля над населением». «Человеческое сознание — статическая уязвимая система, которая все чаще подвергается воздействию все более сложных алгоритмов ИИ. Они одновременно анализируют все, что мы делаем и что думаем, и полностью контролируют информацию, которую мы потребляем», — написал Шолле в своем твите.
Понятно, что Цукерберг с его благими намерениями скорее всего планирует использовать эти возможности исключительно во имя добра — но это-то и пугает. Мы уже видели, как технологии, призванные сделать мир более открытым и наладить в нем связи, вместо этого привели к поляризации и разделению на враждебные группы. Какой бы закон ни принял Конгресс по итогам беседы с Цукербергом, нам всем не избежать непредвиденных последствий. Единственный способ минимизировать потери — это уменьшить его возможности.
