Шошана Зубофф

Редактор и основатель журнала Wired Кевин Келли однажды предположил, что, хотя кажется, что Google стремится развивать свои возможности в сфере искусственного интеллекта для улучшения поиска, более вероятно, что Google разрабатывает поиск как средство непрерывного обучения своих развивающихся мощностей искусственного интеллекта.

Google сумел стать гадалкой цифрового века, которая полным ходом заменяет интуицию наукой, чтобы за деньги погадать на наши судьбы, но не нам, а своим клиентам.

Рассказ политического корреспондента Джима Рутенберга в газете New York Times о важной роли специалистов по данным в победе Обамы в 2012 году рисует яркую картину извлечения и анализа поведенческого излишка как политической методологии. Организаторы кампании знали «имя, адрес, расовую принадлежность, пол и доход каждого колеблющегося избирателя в стране, которого нужно убедить голосовать за Обаму», и вычислили, как нацелить на этих людей телевизионную политическую рекламу. Одним из прорывов стал «индикатор убеждения», который показывал, насколько легко можно убедить каждого нерешившегося избирателя проголосовать за кандидата от Демократической партии.

Два человека в Google, не будучи легитимно избранными, находясь вне демократической подотчетности и не подчиняясь акционерам, контролируют организацию и распространение мировой информации. Единственный человек в Facebook, не будучи легитимно избранным, находясь вне демократической подотчетности и не подчиняясь акционерам, контролирует все более распространенные средства поддержания социальных связей вместе со скрытой в этих сетях информацией.

Ханке, конечно, выдавал желаемое за действительное, но его заявления были вполне в русле общего подхода Google: расширять возможности людей – это здорово, но не надо расширять их сверх меры, чтобы они не заметили кражу своих прав на принятие решений и не попытались вернуть их. Фирма хочет помочь людям принимать лучшие решения, но не в том случае, если эти решения мешают собственным императивам Google. Идеальное общество для Google – это население удаленных пользователей, а не общество граждан. Он превозносит информированных людей, но информированных лишь настолько, насколько это угодно корпорации. Это означает, что мы должны быть смирными, миролюбивыми и, главное, благодарными.

Истина картографа концентрирует в себе идею, которую Google и все надзорные капиталисты должны запечатлеть в умах всех людей: если вас нет на нашей карте, вы не существуете.

Согласно философу языка Джону Сёрлю, декларация – это особый способ говорить и действовать, который создает факты из воздуха, вызывая к жизни новую реальность там, где ничего не было.

Как заключает Сёрль, «вся институциональная реальность и, следовательно, <…> вся человеческая цивилизация созданы <…> декларациями».

Декларации по сути своей инвазивны, поскольку они навязывают новые факты социальному миру, а те, кто их декларирует, ищут способ заставить других согласиться с этими фактами.

Пожалуй, труднее всего ухватить то, что в этот период, предшествующий нелегким компромиссам, «внутреннего» чувства «я» еще просто не существует. Это время, когда «я» – действительно то, чем меня считают другие, и то, что «я» чувствую, зависит лишь от того, как относятся ко мне «другие».