Это адаптированный перевод фрагмента эпилога статьи Gideon Lewis-Kraus «The Great A.I. Awakening» (NYT Magazine, 14 декабря 2016 года). Оригинал доступен здесь: https://www.nytimes.com/2016/12/14/magazine/the-great-ai-awakening.html. В подготовке адаптации помогла компания по работе с английским.
Машины без призраков: эпилог о природе ИИ
Запуск нейронного Google Translate в 2016 году стал не только техническим событием, но и поводом для большого философского вопроса: что мы вообще считаем «интеллектом»? Машина теперь переводит лучше большинства людей — но «понимает» ли она язык? Этот спор ведётся с момента самого появления термина «искусственный интеллект», и нынешний прорыв нейросетей в очередной раз вытащил его на поверхность.
Аргумент «Китайской комнаты»
Пожалуй, самая известная историческая критика искусственного интеллекта — или заявлений, делаемых от его имени — затрагивает вопрос перевода. Аргумент «Китайской комнаты» был предложен в 1980 году философом из Беркли Джоном Сёрлом. В мысленном эксперименте Сёрла:
- человек, говорящий только по-английски, сидит один в камере;
- невидимый тюремщик передаёт ему через щель в двери полоски бумаги с иероглифами;
- заключённому выдан набор таблиц и правил на английском для составления ответов.
Он становится настолько искусен в следовании этим инструкциям, что его ответы вскоре становятся «абсолютно неотличимы от ответов носителей китайского языка». Следует ли считать, что незадачливый заключённый «понимает» китайский? Сёрл считал, что ответ, очевидно, нет. Эта метафора компьютера, писал позже Сёрл, взрывает утверждение о том, что «соответствующим образом запрограммированный цифровой компьютер с правильными входами и выходами будет тем самым обладать разумом именно в том смысле, в каком им обладают люди».
Однако для команды Google Brain или почти для всех остальных, кто работает в области машинного обучения в Кремниевой долине, эта точка зрения совершенно не относится к делу. Это не значит, что они просто игнорируют философский вопрос. Это означает, что у них принципиально иной взгляд на разум. В отличие от Сёрла, они не предполагают, что «сознание» — это некое особое, нуминозно светящееся ментальное свойство — то, что философ Гилберт Райл называл «призраком в машине». Они просто верят вместо этого, что сложный набор навыков, который мы называем «сознанием», случайно возник из скоординированной активности множества различных простых механизмов.
Из этого следует, что наше владение тем, что мы считаем высшими регистрами мышления, ничем не отличается по своей сути от того, что мы склонны воспринимать как низшие регистры. Логическое рассуждение, с этой точки зрения, рассматривается как удачная адаптация; так же как и способность бросать и ловить мяч. Искусственный интеллект — это не построение разума; это совершенствование инструментов для решения проблем. Как Коррадо сказал мне в мой самый первый день в Google:
«Дело не в том, что машина "знает" или "понимает", а в том, что она "делает", и — что ещё важнее — чего она ещё не делает».
«Знание» против «делания»
То, на чьей вы стороне в вопросе «знание» против «делания», имеет реальные культурные и социальные последствия. На вечеринке Шустер подошёл ко мне, чтобы выразить своё разочарование по поводу того, как СМИ приняли статью. «Вы видели первую прессу?» — спросил он меня. Он перефразировал заголовок из того утра, отбивая слово за словом рукой, когда произносил его: «GOOGLE ЗАЯВЛЯЕТ, ЧТО ИИ-ПЕРЕВОД НЕОТЛИЧИМ ОТ ЧЕЛОВЕЧЕСКОГО». В последние недели работы над статьёй команда боролась с этим; Шустер часто повторял, что послание статьи было таким: «Это намного лучше, чем было раньше, но не так хорошо, как люди». Он надеялся, что будет ясно: их усилия направлены не на замену людей, а на помощь им.
И всё же рост машинного обучения затрудняет для нас возможность выкроить для себя особое место. Если вы верите вместе с Сёрлом, что в человеческом «озарении» есть нечто особенное, вы можете провести чёткую линию, отделяющую человека от автоматизированного. Если вы согласны с оппонентами Сёрла — не можете. Понятно, почему так много людей цепляются за первую точку зрения. На конференции MIT в 2015 году о корнях искусственного интеллекта Ноама Хомского спросили, что он думает о машинном обучении. Он пренебрежительно отозвался о всём этом предприятии как о простом статистическом предсказании, улучшенном прогнозе погоды.
Даже если бы нейронный перевод достиг совершенной функциональности, он не раскрыл бы ничего глубокого относительно основополагающей природы языка. Он никогда не смог бы сказать вам, стоит ли местоимение в дательном или винительном падеже. Такое предсказание — хороший инструмент для достижения наших целей, но оно не соответствует стандартам углубления нашего понимания того, почему всё происходит именно так. Машина уже может лучше обнаруживать опухоли на медицинских снимках, чем врачи-рентгенологи, но машина не может сказать вам, что вызывает рак.
Но с другой стороны, может ли это сказать рентгенолог?
Машина не понимает причин — но и врач не всегда тоже
Медицинская диагностика — одна из областей, наиболее непосредственно и, возможно, неожиданно, находящаяся под угрозой машинного обучения. Рентгенологи имеют обширную подготовку и получают чрезвычайно высокую зарплату, и мы думаем об их навыке как о профессиональной проницательности — высшем регистре мышления. Только за последний год исследователи показали не только, что нейросети могут находить опухоли на медицинских изображениях гораздо раньше, чем их человеческие коллеги, но и что машины могут даже ставить такие диагнозы на основе текстов патологоанатомических отчётов. То, что делают рентгенологи, оказывается гораздо ближе к предсказательному распознаванию образов, чем к логическому анализу. Они не говорят вам, что вызвало рак; они просто говорят вам, что он там есть.
Как только вы построили надёжный аппарат распознавания образов для одной цели, его можно настроить для обслуживания других:
- один инженер Translate взял сеть, которую он собрал для оценки произведений искусства, и использовал её для управления автономной машинкой на радиоуправлении;
- сеть, построенная для распознавания кошки, может быть переориентирована и обучена на компьютерных томограммах — на бесконечно большем количестве примеров, чем мог бы просмотреть даже лучший врач;
- нейронная сеть, созданная для перевода, могла бы проработать миллионы страниц документов по судебным делам за ничтожную долю времени, которое потребовалось бы самому дорогому адвокату.
Виды работ, которые будут выполняться автоматами, больше не будут ограничиваться повторяющимися задачами, которые когда-то — несправедливо, следует подчеркнуть — связывали с предполагаемым низким интеллектом необразованных классов. Мы говорим не только о трех с половиной миллионах водителей грузовиков, которые вскоре могут остаться без карьеры. Мы говорим о:
- менеджерах по складским запасам;
- экономистах;
- финансовых консультантах;
- риелторах.
То, что Brain сделал за девять месяцев, — это лишь один пример того, как быстро небольшая группа в большой компании может автоматизировать задачу, которую никто никогда не связал бы с машинами.
