Я верил в идеалы, и поэтому я предал их: о чем говорит нам 52-страничное эссе Ильи?

В 1808 году Гёте создал классическую поэтическую драму «Фауст». Главный герой, доктор Фауст, овладел философией, теологией, юриспруденцией и медициной, познал все знания мира, но всё же не может постичь саму жизнь и впадает в отчаяние.

В этот момент к нему пришёл дьявол Мефистофель и предложил испытать самые экстремальные ощущения. Фауст согласился, но не полностью. Вместо этого он заключил с дьяволом пари: если он почувствует радость от предлагаемого дьяволом опыта и захочет остаться в этом моменте, то он немедленно умрёт, и дьявол сможет забрать его душу.

Более двухсот лет спустя Илья, также обладавший передовыми знаниями в области искусственного интеллекта, столкнулся с тем же «дьявольским» моментом — дважды.

Приходите, ваши высокие идеалы могут быть реализованы.

1 октября Илья выступила в качестве ключевого свидетеля по делу Маск против Сэма Альтмана, где ее подробно допросили, в частности, относительно борьбы за власть, которую он возглавил в 2023 году.

Из четырёх основателей компании Илья считался наиболее научным идеалистом. До прихода в OpenAI он был научным сотрудником Google и одним из самых влиятельных учёных в области глубокого обучения. За его неустанным стремлением к технологическому совершенству кроется более масштабная идея: он убеждён в необходимости создания некоммерческой лаборатории ИИ, не ориентированной на прибыль крупных корпораций.

Разве это не похоже на Фауста, стремящегося к более трансцендентному жизненному опыту? В 2015 году Илья впервые приняла «дьявольское» приглашение: несмотря на настойчивые просьбы Google остаться, она приняла приглашение Маска стать соучредителем OpenAI.

Называть Маска «дьяволом» не совсем верно. В то время он очень настаивал на сохранении некоммерческой составляющей OpenAI — именно поэтому, даже спустя столько лет, он всё ещё борется с этим иском. Деньги — второстепенный вопрос; даже такой богатый человек, как Маск, не хочет, чтобы его использовали в корыстных целях.

Но для Ильи Маск был подобен Мефистофелю: он обещал путь к достижению его идеалов. В то время он полностью разделял некоммерческую миссию OpenAI — развивать искусственный интеллект общего назначения (ИИ) таким образом, чтобы он принес наибольшую пользу человечеству. Он надеялся, что OpenAI сделает технологии ИИ доступными для всех и продолжит оставаться в авангарде исследований в этой области.

Легко представить, что отношения Маска с Ильей напоминают отношения Мефистофеля: он предоставляет деньги и рабочую силу по мере необходимости, с отношением: «Я буду твоим партнером, и до тех пор, пока ты счастлив, я буду твоим слугой, твоим рабом, я готов!»

Однако приближение к концепции искусственного интеллекта зависит не только от технологий; оно также зависит от одного фактора: вычислительной мощности. Даже в 2017 году сервер, оснащённый восемью топовыми видеокартами NVIDIA, стоил около 150 000 долларов. Обучение одной модели требует десятков тысяч видеокарт, не считая расходов на электроэнергию, что ежегодно выливается в миллиарды долларов эксплуатационных расходов.

Сделка с дьяволом всегда имеет свою цену. Требования Маска были предельно ясны: он лично поддерживал OpenAI и хотел стать её генеральным директором и иметь полный контроль.

Тем временем Сэм Альтман связался с Ильей через личные связи, выразив ему свою приверженность некоммерческим организациям и свою позицию сохранения поста генерального директора с нулевым капиталом.

Пока Илья колебался, наступил второй «момент дьявола», и на этот раз началось настоящее пари.

52-страничный PDF-файл

Выбор генерального директора OpenAI, несомненно, стал самым сложным решением в жизни Ильи, намного превосходящим его решение об уходе из Google. В конечном итоге он выбрал Сэма Альтмана, но, судя по информации из прошлого и недавно опубликованным судебным показаниям, это решение сопровождалось его постоянным недоверием к Альтману.

Эта проблема возникла с самого начала. Столкнувшись с выбором между двумя вариантами, он написал Сэму Альтману, спрашивая, почему тот так настаивает на должности генерального директора. Он ответил: «Ваши причины постоянно меняются, и я действительно не могу понять, что ими движет. Действительно ли AGI — ваша главная мотивация?»

Сэм Альтман — человек разносторонних талантов, обладающий даром убеждения. Более того, его навыки привлечения средств поистине поразительны, особенно после привлечения Microsoft и Y Combinator, благодаря которым OpenAI непрерывно получает огромные инвестиции, став самой яркой восходящей звездой Кремниевой долины.

Это, в какой-то степени, создавало баланс между Ильей и Сэмом Альтманом — подобно Мефистофелю и Фаусту, они ненадолго «работали вместе». Илья твёрдо верил в важность масштабирования для обучения моделей и, передав управление компанией Сэму Альтману, ещё глубже погрузился в собственную технологическую философию. Пока не обнаружил, что руководство Сэма Альтмана уже незаметно сбило компанию с курса.

Так появился широко обсуждаемый сейчас «52-страничный PDF-файл». Это служебная записка, которую Илья написал независимым директорам, содержащая множество записей о действиях Сэма Альтмана, включая, помимо прочего, то, как он разжигал офисную политику, создавал конкуренцию между различными командами и систематически манипулировал и обманывал других.

Наблюдатели не могут не задаться вопросом: почему даже эксперты высшего уровня так критикуют PDF-файлы?

Этому PDF-файлу было уделено так много внимания, что некоторые важные моменты остались без внимания: эта информация и материалы стали основными доказательствами, которые Илья направил совету директоров, чтобы добиться отставки Сэма Альтмана. В какой-то момент это было близко к успеху: совет директоров в одностороннем порядке отстранил Альтмана от должности и назначил Миру Мурати временно исполняющей обязанности генерального директора. В течение этого времени члены совета директоров и Илья поддерживали очень тесное общение.

Но именно в этот критический момент Илья дрогнул. Внутренняя борьба за власть имела гораздо более серьёзные последствия, чем предполагалось: многие сотрудники ушли к конкурентам, и совет директоров начал сомневаться в компании. В конце концов, OpenAI был его детищем; если бы он продолжал противостоять Альтману и затягивал конфликт, это лишь ещё больше разрушило бы компанию.

Это противоречит его первоначальному замыслу: он хотел, чтобы OpenAI двигалась в направлении ИИ и приносила пользу человечеству, как он того желал, а не потерпела полный крах.

В прошлом месяце в суде, когда Илья спросили о его тогдашнем решении, он колебался, заявив, что получал информацию от других и не думал о том, чтобы вступать в дальнейшую конфронтацию.

Пользователи сети прокомментировали: Это все действия, которые они запланировали на год?

Справедливость не вечна

Рассматривать дворцовые интриги того года лишь как попытку Ильи поднять мятеж и захватить власть недостаточно, чтобы понять, как он предстал в своих последних показаниях в суде: запутанность, внутренние распри и постоянные стычки.

Потому что в то время он выступал не только против лидерства Сэма Альтмана, но и против собственной недальновидности и неоправданного доверия. Если бы он знал, что назначение Сэма Альтмана генеральным директором поведёт OpenAI по пути капитализации, согласился бы он на сделку? Если некоммерческая направленность OpenAI была обречена на провал, разве всё это не было ошибкой?

На этот раз история не дала ему выбора. В конечном итоге он был отвергнут и Богом, и дьяволом, стал «бунтарём» и покинул OpenAI после восстановления Сэма Альтмана.

Илья обладает рациональной наивностью, подобной наивности Фауста. Он верит, что стремление к технологиям и разуму, наряду с верностью вере, способны преодолеть соблазны власти и славы. Однако, столкнувшись с колоссальным давлением — уходом сотрудников и угрозами инвесторов, — он вынужден изменить свою позицию и подписать компромисс.

Он считал себя «морально правым», но беспокоился, что последствия его действий будут разрушительными. Перед лицом конфликта между идеалами и реальностью он мог принимать лишь оборонительные решения.

«Вот и всё». В этом и заключается суть пари между Фаустом и Мефистофелем: Фауст поспорил, что никогда не будет удовлетворен никакими достижениями или удовольствиями, что он всегда будет стремиться и двигаться вперёд. Это также приводит к его спасению ангелами.

Илья проиграл пари, потому что действительно оказался в ловушке: не из-за своих достижений, а из-за собственного чувства «справедливости», которое поставило его в затруднительное положение.

Он делал ставку на то, что идеал справедливости не потерпит неудачу. Но истории мира одинаковы: перед лицом «дьяволов» коммерции, капитала и власти вера может пошатнуться, и даже самые высокие идеалы могут рухнуть.

#Добро пожаловать на официальный аккаунт iFanr в WeChat: iFanr (WeChat ID: ifanr), где вы сможете как можно скорее ознакомиться с еще более интересным контентом.

ifanr | Исходная ссылка · Просмотреть комментарии · Sina Weibo