Философия искусственного интеллекта: что это такое и зачем она нужна

Искусственный интеллект — это помощник

Человеческое восприятие ограничено: мы не видим ультрафиолета и инфракрасных волн, не слышим тихих звуков и ультразвука, наша кратковременная память вмещает 5–9 объектов, а долговременная подвержена различным искажениям — например, воспоминания могут измениться под влиянием окружения.

Даже если бы у нас были развитые органы чувств, они всё равно представляли бы собой темницу из знаменитого мифа о пещере, узники которой прикованы так, что видят лишь смутные тени на одной из её стен — и только по этим теням могут судить о происходящем снаружи.

Способность мыслить компенсирует несовершенство чувств и позволяет проникать в суть вещей. Благодаря мышлению мы научились видеть то, что не видно глазу, и слышать то, что не слышно уху, узнали то, что недоступно восприятию, стали быстрее, сильнее и опаснее любого живого существа на планете.

Но у всего есть цена — у мышления тоже. Мозг взрослого человека составляет всего 2% от массы тела, но потребляет до 20% всей энергии. А чтобы подготовить одного учёного, требуются годы, и это не бесплатно — за образование платит либо он сам, либо государство.

Поэтому возникает вопрос: «Как бы всё это удешевить, автоматизировать, а ещё лучше — кому-нибудь делегировать?»

Искусственный интеллект — это вычисление

В первой половине XVII века ящик Пандоры стал приоткрываться: Томас Гоббс заявил, что мышление есть вычисление, а Блез Паскаль создал «Паскалину» — одну из первых счётных машин. Появление ИИ стало вопросом времени.

Ведь если:

• сознание — это совокупность мыслительных процессов,
• мышление — это вычисление,
• а вычислять может и машина,

— выходит, что можно создать машину, обладающую своим собственным сознанием. А в нём, в свою очередь, будет отражаться реальность. И мы сможем наконец-то отдохнуть посмотреть на платонову пещеру со стороны.

Но пока похоже, что всё так.

Искусственный интеллект — это процесс познания

В середине прошлого века машины стали способны реализовывать достаточно сложную математику, и атака на мышление началась всерьёз. Она велась по двум главным направлениям, которые Алан Тьюринг в своём манифесте обозначил как «сверху вниз» и «снизу вверх».

• С одной стороны, люди разрабатывали алгоритмы, которые могли лежать в основе мышления. Здесь ключевым прорывом стала машина Тьюринга, позволившая разбить задачи вычисления на элементарные шаги, доступные компьютеру. Это направление «сверху вниз».
• С другой, люди создавали модели нейронов и соединяли их в сети в надежде получить действующую модель мозга — а от него вроде как и до мышления недалеко. Это направление получило название «снизу вверх», или коннекционизм.

И хотя мы пока что не построили настоящий сильный ИИ, даже неудачные попытки воссоздать человеческий разум в коде и железе помогают нам лучше его понять. Дональд Кнут сказал: «Я не понимаю предмета, если не пытаюсь его запрограммировать». А мы пытаемся закодить себя — и благодаря этому понимаем себя лучше и лучше:

• Педагоги говорят о необходимости обучать детей вычислительному мышлению: умению разбивать задачу на части, использовать циклы, символы и логические операции, представлять решение в виде ряда упорядоченных шагов, то есть алгоритма.
• Учёные уже не первый год рассуждают о «вычислительном повороте» — проникновении компьютерных методов в исследовательский процесс, причём не только в технических и точных науках.
• В прошлом году в энциклопедии Стэнфорда появился раздел, посвящённый вычислительной философии, и это не «философия вычислений», а именно другая философия, использующая цифровые методы.

Всё это инструменты человеческого познания — и одновременно плоды эволюции компьютеров, священным Граалем которой является ИИ.

Искусственный интеллект — это перемены

Разработчики беспилотного транспорта или систем компьютерного зрения и другие ИИ-специалисты — это очень занятые люди. Они постоянно решают свои специальные задачи, и у них просто нет времени на анализ всех возможных последствий их деятельности. Эту работу берёт на себя философия.

Возможно, вы слышали о «проблеме вагонетки» или её вариациях, когда от человека требуют сделать сложный выбор в смоделированной ситуации: ничего не делать и тем самым убить пятерых людей или повернуть рычаг и убить только одного. Предполагается, что ИИ неизбежно столкнётся с этой проблемой — например, когда будет водить автомобили на дорогах общего пользования или управлять полицейскими беспилотниками.

Такие вопросы рассматриваются в исследованиях по цифровой этике — это один из быстрорастущих разделов философии ИИ. Один из важных результатов звучит так: машина может принимать решения о жизни и смерти людей, если в итоге смертей станет меньше.

Развитие искусственного интеллекта, по убеждению экспертов, отразится и на рынке труда: много профессий исчезнет, но много и появится. Общий вывод в том, что автоматизация и роботизация оставляют людям в основном сложные профессии с существенной творческой составляющей.

Как должны измениться школы, колледжи, университеты, службы занятости и структуры социального обеспечения в свете таких перспектив? Что будет, если они не изменятся? Самое главное — как быть нам и нашим детям?

Всё это — тоже философия ИИ.

Искусственный интеллект — это вопросы

Философы обсуждают и не такие насущные, но зато более масштабные темы вроде «Уничтожит ли нас ИИ» и «Что будет после появления ИИ».

Рационалист Элиезер Юдковский считает, что дружественный ИИ станет возможен только после того, как мы постигнем тайны разума, — и это нужно сделать как можно скорее. Технооптимист Рэй Курцвейл полагает, что следование ценностям, которые мы сегодня ставим превыше всего, — наилучшая стратегия для создания мира будущего, неважно, будет там ИИ или нет. Трансгуманист Ник Бостром в своей книге «Искусственный интеллект. Этапы. Угрозы. Стратегии» предупреждает о том, что за созданием ИИ идёт следующая ступень — Сверхразум, и его мы в принципе не будем способны хоть как-то контролировать.

Среди русскоязычных исследователей стоит отметить:

• Сергея Карелова, создателя канала «Малоизвестное интересное»;
• Романа Душкина, директора по науке и технологиям в Агентстве искусственного интеллекта и автора курсов по теме ИИ;
• Михаила Эпштейна — философа, филолога и культуролога, написавшего, в частности, книгу с программным названием «От знания — к творчеству. Как гуманитарные науки могут изменять мир».

Знакомство с текстами, книгами и интервью как зарубежных, так и отечественных авторов даст более объёмную картину нашего возможного будущего.

Томас Метцингер, автор книги «Тоннель Эго», задаёт неожиданный вопрос: а имеем ли мы право создавать ИИ? Ведь он, будучи создан, станет испытывать различные состояния сознания. И мы не можем гарантировать, что среди этих состояний не будет этически неприемлемых (типа похоти, гнева или жажды убийства) — потому что до сих пор не научились избегать их в собственном сознании.

Иными словами, в процессе решения сиюминутных проблем и задач мы пытаемся создать того, кто с большой вероятностью:

• будет непохож на нас,
• будет превосходить нас во всём,
• какую-то часть времени будет страдать совершенно непредставимым для нас образом.

Философия ИИ — это API и немного хакинга

Философию искусственного интеллекта можно сравнить с разработкой API — программного интерфейса приложения.

Упрощённо API — это описание способов, которыми одна программа может взаимодействовать с другой. Можно сказать, что рычаг переключения скоростей, педали газа и тормоза, индикаторы, спидометр, кнопки включения фар и поворотников — это API вашего автомобиля. Благодаря ему можно забыть о внутренней логике работы машины и взаимодействовать только с панелью управления.

Аналогично API философия ИИ — это множество разных «ручек» и «кнопок», которые можно вертеть и дёргать. Мы не знаем, как там всё внутри устроено, но если загрузить какие-то данные и понажимать на кнопки — получим результат.

Проблема в том, что технология искусственного интеллекта очень мощная и быстро растёт. Её внедрение способно радикально изменить любую отрасль, но не всегда в ожидаемом направлении:

• ИИ в Amazon улучшил показатели логистики, но при этом усилил контроль водителей и увеличил нагрузку на сотрудников складов, что изменило условия труда, — и далеко не все работники остались довольны.
• По тому же пути идёт и Яндекс, обнаруживший, что курьеры проводят по 15–18 минут в ожидании заказа, хотя «могли бы потратить это время на что-то более полезное».
• Алгоритмы Deepfake представляют новую угрозу для систем, использующих биометрические данные, а сами эти системы посягают на приватность и частную жизнь людей.
• Разделение ответственности при авариях автомобилей с функцией автопилота, вопрос «Кто был за рулём в момент гибели людей?» — один из камней преткновения в развитии транспортной отрасли.

С развитием ИИ получается такая же история, как если бы ваш автомобиль на ходу эволюционировал то в бульдозер, то в скейтборд, а то и вовсе в реактивный самолёт или в воздушный шар.

Скрытые и нереализованные возможности искусственного интеллекта тоже вызывают интерес философии, и это сближает её с хакингом. Философы как бы говорят: «Хорошо, раз ИИ неизбежен, давайте подумаем, какие у него могут быть особенности и уязвимости, и научимся использовать их, чтобы облегчить нам жизнь».