Код
#статьи

Гадкий я: почему Google всё чаще называют корпорацией зла

Раскрываем самые отвратительные факты о компании вместе с учёными, айтишниками и журналистами.

Иллюстрация: Альберто Блинчиков для Skillbox Media

Футурологи бьют тревогу: уже в ближайшем будущем IT-корпорации установят цифровую диктатуру во всём мире, и даже государства не смогут противостоять техногигантам, что уж говорить о небольших конкурентах и пользователях. Мы посмотрели прогнозы исследователей и пришли к выводу, что один из главных претендентов на звание «корпорация зла XXI века» — Google.

Причина 1


Монополизировали рынок

По словам Джея Оуэнса, автора блога о цифровой культуре и медиа hautepop, сейчас все инновационные виды бизнеса сосредоточены в руках нескольких корпораций.

«Посмотрите, как негативно повлияла на розничный сектор компания Amazon. Технические корпорации монополизировали социальную сферу, искусство, развлечения и рынок труда».

В каждой сфере есть свой гигант. Например, монополисты мирового рекламного рынка — Facebook и Google, трудоустройство в руках LinkedIn. А коммуникации — заложники нескольких крупных соцсетей.

Симеон Йетс, профессор цифровой культуры Ливерпульского университета, считает, что таким компаниям, как Google, удалось захватить рынок благодаря неподотчётности. Им просто сходит с рук любое неповиновение правительствам и регуляторам.

«Корпорации должны стать более прозрачными, открытыми и демократичными и уважать своих потребителей. А правительства, вместо того чтобы приспосабливаться к этим компаниям, должны защищать граждан от них».

Рой Цезана, научный сотрудник центра киберисследований имени Блаватника, сооснователь Tele-Buddy и автор блога futurism.com, считает, что цифровой мир страдает от «эффекта единственного победителя»:

«В каждом секторе есть место только для одного победителя. Как есть только одна социальная сеть — Facebook, так и Google контролирует около 65% рынка онлайн-поиска США. Это огромное число, если учесть, что его конкуренты Yahoo и Bing — крупные и устоявшиеся сервисы — контролируют большую часть остальных 35%».

Статистика популярности поисковиков. Красным отмечены страны, в которых Google — самый популярный. Изображение: StatCounter

По мнению Цезана, на рынке с одним победителем появляются «мягкие монополии». Это компании, которые предоставляют услуги лучшего качества — пользователям слишком тяжело променять их на продукты конкурентов. Google — одна из таких монополий.

Только представьте, как сложно перейти с Gmail на другой почтовый сервис. Ведь тогда придётся перенести все документы в другое облако и забыть о сервисах Docs, Sheets и Drive. А переход с Android на iOS некоторые просто не переживут. Не зря операционная система от Google сейчас самая популярная мобильная ОС в мире.

«Уверен, найдутся люди, которые откажутся от всех приложений Google. Но большей части человечества либо попросту наплевать на все эти моральные и социальные проблемы, либо у неё нет возможности отказаться. Как перестать использовать Google, если у каждой автономной машины на улице есть Google Camera? От него полностью зависит посещаемость вашего сайта, и практически все смартфоны, кроме iPhone, работают на Android. Этот мир уже принадлежит Google».

Рой Цезана,
научный сотрудник центра киберисследований имени Блаватника

По оценке колумниста The New York Times Брайана Х. Чена, он тратит не менее семи часов в день на продукты Google:

«На своём iPhone я использую приложения Google. В браузерах на компьютере и планшете Google установлен как поисковик по умолчанию. В работе я пользуюсь Google Finance для просмотра котировок акций, Google Drive — для хранения файлов, Google Meet — для телеконференций и Google Hangouts — для общения.

Дома у меня тоже везде Google: камера видеонаблюдения My Nest от Google охраняет дверь, а через голосовой сервис Google гости сообщают мне, что пришли. Даже чтобы узнать, как отремонтировать водосточный жёлоб, я посмотрел видео на YouTube. В онлайн-картах Google есть фото моего дома, сделанные из космоса или с помощью автомобиля со встроенными камерами».

Причина 2


Убрали лозунг «не сотвори зла» из корпоративного кодекса

Фото: tangi bertin / flickr

В 2019 году Google убрал слоган «не сотвори зла» из корпоративного кодекса поведения. Раньше эту фразу использовали повсеместно — даже в качестве пароля Wi-Fi на шаттлах, которыми Google переправляет своих сотрудников в штаб-квартиру. Вот соответствующий раздел старого кодекса, заархивированного Wayback Machine 21 апреля 2018 года:

«Считается, что лозунг „не сотвори зла“ — о пользовательских сервисах. Но для нас он значит гораздо больше: мы предоставляем нашим пользователям беспристрастный доступ к информации, фокусируемся на их потребностях и предоставляем лучшие продукты и услуги, соблюдаем законы и уважаем коллег.

Кодекс поведения Google — один из способов претворить в жизнь принцип „не сотвори зла“. Всё, что мы делаем в Google, должно оцениваться по самым высоким этическим бизнес-стандартам. Мы устанавливаем высокую планку не только по практическим, но и по моральным причинам: это помогает нам нанимать отличных людей, создавать отличные продукты и привлекать лояльных пользователей. Доверие и взаимное уважение между сотрудниками и пользователями — основа нашего успеха, и мы должны добиваться этого каждый день».

Теперь этот лозунг из кодекса убрали. Означает ли это, что теперь для компании важнее прибыль, а не уважение к пользователям и сотрудникам?

Причина 3


Сняли видео про управление людьми

The Verge получил доступ к видео, которое распространили в компании в 2016 году. Оно называется Selfish Ledger («Эгоистичный гроссбух») и изображает будущее, в котором Google не просто собирает данные о пользователях, а управляет с их помощью поведением людей.

В видеоролике алгоритм ИИ использует данные бухгалтерской книги, чтобы заставлять людей вести себя «правильно».

«Хоть „общее благо“ — это довольно спорное понятие, наша цель — здоровье людей и окружающей среды. На видео показано, как пользователь звонит в Uber, но получает напоминание, что нужно взять попутчика. Потом он заказывает продукты, а Google говорит, что лучше совершать покупки в местных магазинах.

…Мы понимаем, что это беспокоит общественность, — так и задумывалось. Это теоретический эксперимент, который провела команда дизайнеров много лет назад. В нём используют технику, известную как спекулятивный дизайн. С её помощью исследуют неудобные идеи и концепции, провоцируют общество на дискуссии и дебаты. Видео не связано с текущими или будущими продуктами Google».

Ник Фостер,
руководитель отдела дизайна в X (ранее Google X) и соучредитель Лаборатории ближайшего будущего

Технически Google действительно может создать Selfish Ledger. Кроме того, в видео отмечается, что цель технологии — привести действия людей в соответствие с ценностями компании. Получается, если ценности Google изменятся, то изменится и направление, в котором Selfish Ledger направляет поведение пользователей.

Причина 4


Цензурируют своих исследователей

​​В последние годы Google включил ИИ во все свои сервисы. Эту технологию компания использует для интерпретации сложных поисковых запросов, выдачи рекомендаций на YouTube и автозаполнения форм в Gmail.

Но учёные из Google AI не публикуют работы по темам, которые считаются «деликатными». Компания дополнительно анализирует такие исследования и следит, чтобы они раскрывали технологии в позитивном ключе. Согласно расследованию NBC News, компания ввела список «деликатных тем». Этот список мешает учёным писать о потенциальных опасностях новых технологий. Особенно технологий, разработанных Google и другими компаниями, связанными с Alphabet. Формальный повод ограничений — запрет разглашения коммерческой тайны.

Например, согласно новой политике Google, изучение сервисов компании на предвзятость — одна из деликатных тем. Среди десятков других таких тем оказались нефтяная промышленность, Китай, Иран, Израиль, COVID-19, домашняя безопасность, страхование, данные о местоположении, религия, беспилотные автомобили, телекоммуникации и системы, которые рекомендуют или персонализируют веб-контент.

В распоряжении NBC оказалась внутренняя переписка, согласно которой новая политика Google рекомендует учёным «проявлять большую осторожность в формулировках и задавать позитивную повестку». Учёным также посоветовали не упоминать продукты Google, когда они пишут на деликатные темы, не писать об этической стороне компьютерного распознавания лиц, беспилотных автомобилей и других спорных технологий.

О проблемах в Google высказалась ведущий специалист по этике искусственного интеллекта Тимнит Гебру, которую выгнали из компании. Тимнит работала техническим соруководителем группы этики искусственного интеллекта Google и исследовала расовые предубеждения в алгоритмах ИИ. Она пригрозила уйти в отставку, если компания не выполнит её требования к публикации исследования об ИИ. В ответ её уведомили об увольнении по электронной почте и отключили её рабочий аккаунт:

Скриншот: @timnitGebru / Twitter

«Нам запрещено публиковать информацию об опыте, который не соответствует критериям „качественного рецензирования“. Проще говоря, мы находимся под цензурой».

Один из исследователей, анонимно для NBC

Гебру заявила, что её уволили из-за того, что она поставила под сомнение приказ не публиковать исследование. В нём утверждалось, что имитирующий речь искусственный интеллект может «поставить в невыгодное положение маргинализированные группы населения». В Google же заявили, что сотрудница сама решила уволиться, а компания лишь немного ускорила этот процесс.

Тимнит Гебру. Фото: Wikimedia Commons

Гебру ушла из компании через год после публичного увольнения из Google другого специалиста по этике ИИ — Мередит Уиттакер. Мередит заявила, что её преследовали за помощь в организации протестов сотрудников. Она вместе с командой протестовала против сотрудничества Google с Вооружёнными силами США, нарушения этики ИИ и снисходительного отношения руководства к сексуальным домогательствам.

Уиттакер была активной сторонницей перемен в компании и вместе с коллегой Клэр Стэплтон помогла провести акцию Google Walkout for Change, в которой приняли участие 20 тысяч сотрудников. Они бастовали против принудительного арбитража компанией обвинений в сексуальных домогательствах. Другими словами, Google заставлял сотрудников отказываться от судебных исков по сексуальным домогательствам. Вместо этого компания проводила внутренние расследования и пыталась уладить споры «полюбовно». После протестов эту практику в Google отменили.

Причина 5


Сотрудничают с Пентагоном

В 2018 году журналисты стали писать о том, что Google помогает министерству обороны США с проектом Maven. Maven — это группа боевых дронов с искусственным интеллектом и высокоточным оружием на борту.

Тысячи сотрудников Google подписали петицию против этого партнёрства. Например, уже упомянутая выше Мередит Уиттакер. Некоторые сотрудники даже подали в отставку в знак протеста. А ещё в СМИ попало открытое письмо, которое подписали более трёх тысяч сотрудников. В ответ на критику в Google пообещали не разрабатывать оружие с применением искусственного интеллекта.

Представитель компании на специальной пресс-конференции заявил, что Google предоставляет министерству обороны API-интерфейсы TensorFlow — с их помощью военные аналитики обнаруживают объекты на фотографиях. Также он посетовал, что у практики применения ИИ в военных целях много противников, и уверил, что компания разрабатывает «специальные политики и меры безопасности».

Причина 6


Может выкинуть вас из цифрового мира

Майкл Дж. Дайер, заслуженный профессор информатики в Калифорнийском университете в Лос-Анджелесе, отметил:

«Меня беспокоит, что мир становится всё более виртуальным, а компании всё сильнее контролируют наше виртуальное „имущество“. Если вы покупаете бумажную книгу, вы можете отдать её кому-то, но с виртуальной книгой это сделать сложнее. Вы можете использовать чужое программное обеспечение. Но что будет, если у вас возникнет конфликт с компанией, которая поддерживает и лицензирует вашу бизнес-среду?

Мы видим невероятную власть Amazon, Facebook и Google над компаниями и людьми, которые используют их ПО. Наступит момент, когда компании, которые не готовы принять их условия, просто не смогут работать. Если только государства по всему миру не примут законы, ограничивающие эту власть».

В 2017 году Google заблокировал доступ к своим сервисам для 200 пользователей. Оказывается, они обманули компанию, чтобы сэкономить на налогах при покупке смартфона Pixel. Однажды люди просто не смогли войти в свой Gmail и получить доступ к Google Docs. А если бы они жили в будущем, то, вероятно, не смогли бы попасть в свои Google-автомобили и другие жизненно важные приложения. По сути, они оказались бы «мертвы» в цифровом пространстве.

К счастью для этих 200 пользователей, общественный резонанс заставил Google отступить и восстановить аккаунты, но этот эпизод хорошо иллюстрирует власть Google.

«Google не обязательно запрещать доступ ко всем своим сервисам. Представьте, например, что их поисковая система (кстати, никто толком не знает, как она работает) понизила рейтинг вашего сайта. Она может сделать это просто потому, что вы выступали против политики компании. Это абсолютно законно. Так кто же будет ругать Google при таком раскладе? Точно не я».

Рой Цезана,
научный сотрудник центра киберисследований имени Блаватника

Тем не менее исследователь отмечает, что даже такая сила не делает Google «корпорацией зла». Если компания завтра исчезнет, её место займут Amazon, Apple, Facebook или даже Snapchat. В цифровом мире всегда будет победитель, который держит в руках большую часть рынка.

«Двадцать лет назад скромный стартап Google стал любимцем Кремниевой долины благодаря крутому способу поиска информации в интернете. Этого Google уже давно нет. Сегодняшний Google — это монопольный привратник интернета и одна из самых богатых компаний на планете».

Брайан Х. Чен,
колумнист The New York Times

Подведём итоги:

  1. Сегодня Google — абсолютный чемпион среди поисковиков. На него приходится около 65% мирового рынка онлайн‑поиска. Из-за этого корпорацию часто обвиняют в монополизме.
  2. За последние пять лет Google несколько раз попадал в скандалы, связанные с дискриминацией сотрудников и пользователей, а также неоднозначной реакцией руководства на харассмент. Один из самых крупных — забастовка 20 тысяч сотрудников против принудительного арбитража компанией дел о сексуальном домогательстве.
  3. Google сотрудничает с Пентагоном в рамках проекта Maven. Компания предоставляет американским военным интерфейс TensorFlow для разработки искусственного интеллекта боевых дронов. В знак протеста более трёх тысяч сотрудников подписали открытое письмо против этого сотрудничества.
  4. Власть Google и его сервисов настолько велика, что любого пользователя могут в буквальном смысле выкинуть цифрового пространства. Для этого компании достаточно заблокировать его учётную запись — тогда бедолага потеряет почту, рабочие документы и даже доступ к своим онлайн‑камерам.

Похоже, Google действительно планирует захватить мир. Если не хотите однажды проснуться в Гугляндии, присоединяйтесь к «яблочному сопротивлению». Записывайтесь на курс «Профессия iOS-разработчик» и учитесь создавать качественные аппки с человечным UX.

Глубоко, бесплатно:
вебинары по программированию, маркетингу и дизайну.

Расписание

Курс

Профессия Python-разработчик

На Python пишут веб-приложения и нейросети, проводят научные вычисления и автоматизируют процессы. Язык просто выучить, даже если вы никогда не программировали. На курсе вы создадите Telegram-бота, полноценный магазин и задачник для портфолио, а Центр карьеры поможет найти работу Python-разработчиком.

Узнать про курс
Профессия Python-разработчик Узнать больше
Понравилась статья?
Да

Пользуясь нашим сайтом, вы соглашаетесь с тем, что мы используем cookies 🍪

Ссылка скопирована