Элон Маск и Сэм Альтман переживают, что искусственный интеллект захватит мир. Поэтому два предпринимателя создают некоммерческую организацию на миллиард долларов, которая максимизирует власть ИИ — а после поделятся ею с любым, кто захочет.
Во всяком случае именно такой посыл Маск, основатель компании по производству электромобилей Tesla Motors, и Альтман, президент инкубатора стартапов Y Combinator, озвучили во время представления своего детища OpenAI.
В интервью со Стивеном Леви из Backchannel, приуроченном к запуску компании, Альтман сообщил, что они ожидают, что этот проект на десятки лет превзойдет интеллект человека. При этом они хотят, чтобы риски, сопряженные с искусственным интеллектом, были смягчены за счет того, что эту технологию «будет использовать каждый, а не, скажем, только Google».
Естественно, Леви задал вопрос, не приведут ли их планы свободно делиться этой технологией к тому, что она попадет в руки плохих людей, которые станут такими «докторами Зло» местного покроя. Но этот риск, как считают создатели OpenAI, уменьшится за счет того, что власть многих перевесит власть нескольких. «Точно так же, как люди защищаются от доктора Зло хотя бы тем, что большинство людей хорошие, и коллективная сила человечества может содержать плохие элементы, — говорит Альтман. — Но мы думаем, что куда более вероятно, что много-много ИИ остановят случайных плохих людей».
Пройдут года, прежде чем мы узнаем, выгорят ли эти противоречивые аргументы. Искусственный интеллект сверхчеловеческого уровня ужасно далек, если вообще появится. «Эта идея содержит интуитивно понятный призыв, — говорит Майлз Брендейдж, аспирант Университета штата Аризона, который занимается человеческими и социальными аспектами науки и технологий, по поводу OpenAI. — Но особых аргументов у нее нет. В той точке, где мы сейчас, ни одна система ИИ не способна захватить мир — и не сможет в обозримом будущем».
Но создание OpenAI вовлекает больше мотивов, чем просто возможность захвата мира силами сверхчеловеческого интеллекта. В краткосрочной перспективе OpenAI может напрямую помочь Маску и Альтману и их компаниям (Y Combinator взрастил таких монстров, как Airbnb, Dropbox и Stripe). После сманивания ведущих разработчиков ИИ из компаний вроде Google и их трудоустройства в OpenAI, два этих предпринимателя получат доступ к идеям, к которым не имели доступа ранее. И объединив усилия, наводнив каждый свою компанию данными, они вполне могут понять смысл этих идей. В наши дни один ключ к развитию ИИ — инженеры, а второй — данные.
Если OpenAI останется верным своей миссии обеспечить каждого доступом к новым идеям, он послужит целям и мощных компаний вроде Google и Facebook. С Маском и Альтманом и другими, кто вливает свыше миллиарда доллара в это предприятие, OpenAI демонстрирует, как меняется само понятие конкуренции в последние годы. Все чаще компании, инвесторы и предприниматели надеются конкурировать с соперниками, отдавая свои технологии. Это к разговору о противоречивости.
Плюсы открытости
OpenAI — это кульминация чрезвычайно насыщенного месяца в мире искусственного интеллекта. В начале ноября Google раскрыла исходники (частично) программного движка, на котором работают ИИ компании — технологии глубокого обучения, которые оказались чрезвычайно способными в распознавании изображений, определении сказанных слов, переводе языков и понимании естественного языка. И почти перед самым объявлением OpenAI Facebook раскрыла исходники проектов компьютерного сервера, на котором работают ее сервисы глубокого обучения, и многие из них решают те же задачи, что и технологии Google. Теперь и OpenAI обещает поделиться всем, что сумеет произвести, — и особое внимание будет уделено, конечно же, глубокому обучению.
Да, такой дележ — это своего рода тоже соперничество. Если компания вроде Google или Facebook открыто делится устройством программного или аппаратного обеспечения, она форсирует прогресс ИИ в целом. И это, опять же, в ее интересах. По мере того как крупное сообщество улучшает эти открытые технологии, Google и Facebook могут вернуть эти улучшения в свой бизнес. Кроме того, опенсорсинг — способ поиска и найма талантов. В области глубокого обучения ученые — многие из которых выходят из академий — приветствуют идею открытого разделения своей работы, удовлетворения большого числа людей. «Определенно существует конкуренция в борьбе за ученых, — рассказал Альтман журналу WIRED. — Люди, которых мы наняли… им нравится тот факт, что OpenAI открыт и они могут поделиться своей работой».
Эта конкуренция может быть прямее, чем кажется. Можно предположить, что Google открыла исходники своего движка ИИ, TensorFlow, поскольку знала, что появится OpenAI — и Facebook поделилась дизайном своего сервера Big Sur в ответ на действия Google и OpenAI. Facebook говорит, что это не так. Google не отвечает на запрос. И Альтман тоже не хочет это обсуждать. Но говорит, что Google знала, что появится OpenAI. Да и как она могла не знать? Этим проектом занялся Илья Суцкевер, один из ее ведущих разработчиков ИИ.
Это не умаляет ценности проекта Google с открытым исходным кодом. Независимо от мотивов компании, этот код доступен для всех пользователей, пусть используют, как им заблагорассудится. Но стоит помнить, что в современном мире раздача технологий — это больше, чем просто великодушие. Сообщество глубокого обучения относительно небольшое, и все эти компании борются за таланты, которые помогут им использовать преимущества этой невероятно мощной технологии. Они хотят поделиться, но также хотят и выиграть. Они раскрывают свои козыри, но далеко не все. Открытые исходники ускорят прогресс ИИ, но пока это происходит, важно, что ни одна компания или технология не станет слишком мощной. Поэтому в OpenAI есть смысл.
Его собственная программа «Аполлон»
В некоторой степени можно подозревать, что Маск и сам видит обмен, разделение как способ выиграть. «Как вы знаете, у меня были некоторые опасения по поводу ИИ в течение некоторого времени», — рассказал он Backchannel. И его публичная дрожь на тему ИИ-апокалипсиса хорошо известна. Но он также работает над Tesla, которая будет извлекать выгоду из технологий, которые разработает OpenAI. Подобно Google, Tesla строит самоуправляемые автомобили, которые смогут извлечь неиллюзорную выгоду из технологий глубокого обучения.
Глубокое обучение полагается на так называемые нейронные сети, обширные сети программного и аппаратного обеспечения, которые силятся стать похожими на сети нейронов в мозге человека. Скормите достаточно фотографий котиков нейронной сети, и она начнет узнавать котов. Загрузите в нее достаточно диалогов, и она научится поддерживать разговор. Скормите ей достаточно данных о том, с чем сталкивается автомобиль, когда едет по дороге, и как на это реагируют водители, и она научится водить.
Да, Маск может просто нанимать исследователей ИИ на работу в Tesla. И нанимает. Но с OpenAI он может нанимать лучших исследователей (потому что это открытая компания и потому что она не ограничена привычной бизнес-моделью традиционной компании или кратковременным интересом). Он даже может вытягивать ученых из Google. Кроме того, он может создать куда более мощный пул данных, который поможет в работе этих исследователей. Альтман говорит, что компании Y Combinator будут делиться своими данными с OpenAI, а это не мало. Совместите эти данные с данными Tesla, и начнете соперничать с Google — по крайней мере на определенных условиях.
«В некотором смысле это хорошо, в некотором — не очень, — говорит Крис Николсон, генеральный директор стартапа глубокого обучения Skymind, который недавно был принят в программу Y Combinator. — Я уверен, что есть много данных Airbnb о жилье, до которых Google не может дотянуться».
Маск был одним из первых инвесторов в компании под названием DeepMind — британской компании, которая описывает себя как «программа «Аполлон» для ИИ». И эти инвестиции приоткрыли для него окошко на то, как развивается эта замечательная технология. Но Google купила DeepMind, и теперь окошко закрыто. Теперь Маск начинает собственную программу «Аполлон». И он снова на этом поезде. Другие инвесторы OpenAI находятся в таком же положении, включая Amazon, интернет-гиганта, который следует по пятам Google и Facebook в гонке ИИ.
Пессимизм и оптимизм
Нет, это не умаляет ценность проекта Маска. У него могут быть корыстные или альтруистические мотивы. Но конечный результат будет чрезвычайно полезен для ИИ всего мира. В процессе обмена своей технологией с миром, OpenAI вынудит Google, Facebook и других тоже это делать — если уже не вынудила. Это хорошо для Tesla и всех компаний Y Combinator. Но также это хорошо для всех, кто уже заинтересован в использовании ИИ.
Конечно, в обмен на свою технологию, OpenAI также будет поставлять новые боеприпасы для Google и Facebook. И доктору Зло, где бы он ни скрывался. Он может хорошенько поживиться за счет OpenAI. Но крупнейшее опасение заключается не в том, что доктор Зло превратит эту технологию во вселенское зло. А в том, что технология затеряется в мире. Глубокое обучение не закончится на самоуправляемых автомобилях и понимании естественного языка. Ведущие ученые считают, что при условии правильной смеси данных и алгоритмов это понимание может расшириться и на то, что люди зовут здравым смыслом. И даже до сверхчеловеческого интеллекта.
«Страх перед сверхинтеллектом, который рекурсивно себя улучшает, достигает второй космической скорости и становится на порядок умнее любого человека, — говорит Николсон. — Это произойдет не скоро. И некоторые считают, что не произойдет вовсе. Но если произойдет, будет жутко».
С этим Маск и Альтман и пытаются бороться. «Разработка, обогащение, доступность технологий защищают людей, — говорит Альтман. — Делать это — лучший способ защитить всех нас». Но в то же время это сокращает путь к сверхчеловеческому интеллекту. И хотя Альтман и Маск могут считать, что доступ каждого к сверхинтеллекту позволит вовремя обнаружить сбежавший ИИ, может произойти совершенно противоположное. Если компании будут знать, что все в мире стремятся заполучить в высшей степени разумный ИИ, они будут меньше заботиться о мерах предосторожности.
Насколько необходимы эти меры, как ни странно, зависит от того, насколько оптимистично вы смотрите на способность человечества наращивать технический прогресс. Основываясь на своих прошлых успехах, Маск и Альтман имеют все основания полагать, что дуга прогресса будет стремиться вверх. Но другие не особо верят в то, что ИИ будет представлять угрозу человечеству, как это видят Маск и Альтман. «Мысли об ИИ — это опиум для технологов: они нас возбуждают и делают параноиками», говорит Николсон.
В любом случае «гуглы» и «фейсбуки» нашего мира быстро толкают ИИ к новым горизонтам. И, по крайней мере в мелочах, OpenAI поможет удержать их — и всех остальных — в узде. «Думаю, что Элон и эта группа считают, что ИИ не остановить, — говорит Николсон. — Поэтому все, на что они могут надеяться, — это изменить его траекторию».
Анатолий Тарасов
Источник: vesti.lv
