6 классных лекций на TED про технологии и людей

Мы обожаем лекции на TED и поэтому собрали выступления 2023 года, которые с удовольствием посмотрели сами. Ведущие инженеры, учёные и топ-менеджеры поведали о том, как сделать самое успешное образовательное приложение, почему разработчикам искусственного интеллекта нужно скорее объединяться, и даже о том, как устроена Вселенная.

Грег Брокман о воспитании ChatGPT

Сооснователь OpenAI Грег Брокман приоткрыл тайну обучения ChatGPT. В своём выступлении он упомянул статью Алана Тьюринга, в которой говорится, что нет необходимости программировать каждый шаг машины. Её нужно обучать через обратную связь, как ребёнка: «конфетка» за хорошее поведение, наказание — за плохое. Именно эта идея Тьюринга и лежит в основе обучения ChatGPT, которое состоит из двух этапов.

Читайте также:

Тест Тьюринга:
отличите ли вы ИИ от человека

Сначала нейросети показывают огромный массив информации из интернета и просят предсказать, что дальше будет в том или ином тексте.

Попутно, в процессе предсказания, ИИ осваивает разные навыки, например решение математических задач. Ведь если пользователь написал задачу, то единственный вариант получить продолжение текста — решить её.

На втором этапе обучения дата-сайентисты объясняют ИИ, что делать с приобретёнными навыками. Для этого используется обратная связь: машина даёт ответ, а человек его оценивает. При этом совершенствуется не только умение ChatGPT обрабатывать промпт, но и весь процесс, который приводит к появлению ответа. ChatGPT начинает лучше «понимать», что от него хотят, и применяет эти знания в сценариях, которых он раньше не видел и где не было обратной связи с оценкой решения.

Стивен Вольфрам и его теория

Стивен Вольфрам — создатель вычислительных комплексов Mathematica и Wolfram|Alpha, автор книги «Новый вид науки», основатель и генеральный директор Wolfram Research. Он считает, что в основе всех окружающих нас явлений лежат простые правила, из которых формируются сложные системы.

Вольфрам — автор гипотезы о том, что таким правилам или алгоритмам подчинена эволюция Вселенной. И если раскрыть их тайну, то можно понять, как устроен мир.

Свой предыдущий доклад на TED в 2010 году он закончил вопросом: «Не является ли вычисление в конечном итоге основой всего в нашей Вселенной?» В новом выступлении Вольфрам утверждает, что подтвердил свою гипотезу.

Для того чтобы формализовать наши знания о мире в математических терминах, он разработал специальный язык — Wolfram Language. Согласно официальному сайту, Wolfram Language гораздо более высокоуровневый, чем обычные языки программирования, поэтому позволяет работать с любыми абстрактными концепциями на основе вычислений. В нём есть встроенные функции для создания и приведения в действие машины Тьюринга, генерации изображений и аудио, анализа трёхмерных моделей, решения дифференциальных уравнений и других математических задач.

Луис Фон Ан — о том, как заставить людей учиться

Duolingo — самое популярное в мире приложение для изучения английского языка. У него более 500 млн зарегистрированных пользователей. Генеральный директор компании Луис Фон Ан в своём докладе на TED поразмышлял о том, какие факторы привели продукт успеху.

Огромная аудитория. Люди разного возраста — от подростков до пожилых — всего около двух миллиардов человек в мире, учат иностранный язык. Около 80% из них занимаются английским, потому что владение им может увеличить доход, открыв доступ на англоязычный рынок труда. И всю эту аудиторию охватывает Duolingo.

Ставка на смартфоны. Это относительно недорогие устройства, которые есть у большинства населения даже в самых бедных странах. Если бы компания разработала приложения для ноутбуков и персональных компьютеров, то число пользователей в развивающихся странах было бы на порядки ниже.

Модель freemium. Чтобы быть действительно доступным для всех, богатых и бедных, Duolingo использует модель freemium. Пользователям, которые учатся бесплатно, показывают рекламу. Если купить подписку Duolingo Plus, то реклама отключится. Именно подписка является основным источником прибыли Duolingo. Чаще всего её оформляют состоятельные люди из экономически развитых стран вроде США и Канады.

Главная проблема, над которой бьются авторы Duolingo, — конкуренция с соцсетями и мобильными играми, которые установлены на смартфонах пользователей:

И, надо сказать, у Duolingo получилось придать брокколи вкус десерта. Для этого разработчики использовали психологические приёмы, характерные для игр и развлекательных приложений.

Одна из таких механик — streaks (англ. «полоса», «период») — это счётчик, который отображает количество дней непрерывного использования программы. Если не зайти в приложение в течение суток, счётчик обнулится. Это заставляет людей возвращаться каждый день. У Duolingo уже более трёх миллионов пользователей, которые посещают приложение ежедневно в течение 365 дней!

Другая тактика — это система уведомлений для пользователей на основе искусственного интеллекта. ИИ не просто определяет, когда отправить напоминание, но и генерирует для него текст. Считается, что лучшее время отправки уведомления — через 24 часа с момента последнего использования продукта. Логика здесь простая: если пользователь был свободен вчера в 15:00, то, вероятно, он сможет заниматься и сегодня в то же время.

Если же человек не использует Duolingo в течение семи дней, ему прекращают отправлять уведомления. Но, прежде чем отключить их, пользователю сообщают об этом. И знаете что? Получив напоминание, люди возвращаются.

Пиячарт Пиромсвад против возрастной дискриминации

Экономист Пиячарт Пиромсвад рассказал о том, как пожилым людям, желающим работать, преодолеть физические, умственные и социальные барьеры.

Сегодня редкие компании создают рабочие места для пожилых, но в скором будущем потребность в их трудоустройстве значительно вырастет. К 2050 году количество людей старше 60 лет превысит два миллиарда. Около 80% из них будут проживать в развивающихся странах с низким и средним уровнем дохода.

Пиромсвад считает, что для этой группы людей нужно разрабатывать технологии, которые снизят или устранят физические и когнитивные барьеры в работе.

Первая группа технологий компенсирует физические недостатки. Одна из перспективных разработок в этой области — экзоскелет, который повышает мышечную силу и позволяет пожилым людям заниматься тяжёлым физическим трудом. Это также могут быть роботизированные руки для престарелых хирургов.

Вторая группа — технологии когнитивного усиления. Например, ИИ может помогать пожилым людям ориентироваться в больших объёмах информации, находить нужные данные и быстро их обрабатывать.

Илья Суцкевер призывает объединяться против сильного ИИ

Илья Суцкевер, сооснователь OpenAI и один из архитекторов GPT-моделей, рассказал, само собой, об искусственном интеллекте. Он вспоминает, как заинтересовался темой ИИ. Для него работа над разумным компьютером всегда была возможностью узнать что-то о самом себе, о сознании, о том, как устроен интеллект.

Илья верит, что наступит день, когда когнитивные способности ИИ превзойдут способности биологического мозга. Речь, как вы поняли, о том самом AGI, или общем искусственном интеллекте. Его появление окажет огромное влияние на все сферы общества.

Суцкевер привёл пример с медициной. Цифровой доктор на основе AGI будет владеть знаниями, которые включает вся существующая медицинская литература, и иметь миллиарды часов практики. К нему не надо будет записываться за несколько месяцев, и, скорее всего, его услуги будут гораздо дешевле приёма врача-человека.

Читайте также:

Новый уровень искусственного интеллекта: что такое AGI, когда он появится и каким будет

Но что, если AGI выберет тёмную сторону? Суцкевер считает, что поразительные и порой ужасающие возможности ИИ должны сподвигнуть компании, занимающиеся искусственным интеллектом, к сотрудничеству. Только так получится выработать чёткие правила, с помощью которых можно будет контролировать развитие ИИ и избежать опасностей в скором будущем.

Лив Боэри о ловушке Молоха

Лив Боэри, научный коммуникатор и профессиональный игрок в покер, говорит примерно о том же, о чём и Суцкевер. Она рассказывает о ловушке Молоха — ситуации, когда мы настолько нацелены на выигрыш, что теряем из виду общую картину и жертвуем слишком многим в погоне за победой. Знаменитости обменивают своё благополучие на лайки, редакторы СМИ забывают о честности ради числа просмотров. То же самое происходит в сфере искусственного интеллекта.

Мы наблюдаем гонку между компаниями: чья модель будет круче, кто получит больше инвестиций или лучших специалистов. И чем больше компаний вступает в неё, тем выше ставки и больше давление. Тот, кто приостановится, чтобы подумать о будущих последствиях, например проработать вопросы безопасности, может проиграть. Инвесторы будут недовольны, а сотрудники и пользователи уйдут к конкурентам. Так компании загоняют себя в ловушку Молоха.

Когда речь идёт о создании AGI, продумать последствия его появления очень важно. Боэри рассказывает, что, к нашему счастью, ведущие игроки в этой области демонстрируют понимание серьёзности этой ситуации.

Anthropic объявила о своей политике ответственного масштабирования, то есть компания будет наращивать возможности ИИ только после достижения определённых критериев безопасности. OpenAI недавно пообещала выделить 20% своих вычислительных мощностей исключительно на исследования в области выравнивания. Её искусственный интеллект должен иметь цели и поведение, соответствующие человеческим ценностям и интересам. Но не стоит расслабляться, ставки в этой гонке постоянно растут. Пора менять правила игры.