Последнее выступление Сэма Альтмана на 10 000 слов: Идеальная форма оборудования — это компаньон ИИ, а влияние на занятость не так уж и страшно

Сегодня Сэм Альтман поделился своими прогнозами и идеями относительно развития ИИ в ближайшие 5-10 лет в разговоре со своим братом Джеком Альтманом. В разговоре обсуждались такие темы, как исследования ИИ, гуманоидные роботы, суперинтеллект, оборудование OpenAI, цепочка поставок и ответ на переманивание Меты.

Этот разговор между братьями был непринужденным, теплым и содержательным, и он также позволил нам увидеть другую сторону Сэма Альтмана, выходящую за рамки «режима генерального директора».

Вопросы для обсуждения:

ИИ — это не только «помощник в научных исследованиях» и инструмент повышения эффективности, но и возможность самостоятельного открытия новых научных данных:
Улучшение способности к рассуждению постепенно позволило ИИ проводить сложные размышления в профессиональных областях, таких как врач, а ученые повысили эффективность своих исследований с помощью ИИ. Сэм Альтман считает, что в ближайшие пять-десять лет ИИ будет иметь больше возможностей для независимых научных исследований и даже откроет новую науку.

У гуманоидных роботов есть технические проблемы, но будущее выглядит оптимистично:
Хотя ИИ достиг определенного прогресса в области физических манипуляций, все еще существуют технические трудности в механическом проектировании настоящих гуманоидных роботов. Однако Альтман настроен оптимистично по этому поводу. Он считает, что когда появятся роботы, которые смогут свободно ходить и выполнять задачи в реальном мире, люди смогут почувствовать настоящее «будущее влияние».

В эпоху сверхразума адаптивные возможности человека превзойдут все ожидания:
Люди способны создавать чрезвычайно мощные сверхразумные системы, но к тому времени шок, который технологии приносят обществу, может оказаться не таким уж большим, как предполагалось, и люди быстро адаптируются. В то же время Альтман считает, что нам не нужно слишком беспокоиться об угрозе занятости людей, которую представляет ИИ, потому что люди будут адаптироваться и быстро создавать новые рабочие места.

Вездесущий «компаньон ИИ» — идеальная форма продукта OpenAI
Альтман описал конечную форму продукта, которую OpenAI создаст для потребителей – "AI companion". По сравнению с традиционными вычислительными устройствами, будущий ИИ может быть интегрирован в жизнь людей через более интуитивные формы устройств.

Создание «фабрики искусственного интеллекта» и улучшение цепочки поставок — ключ к будущему:
ИИ станет основной технологией во всех отраслях промышленности и может в будущем затрагивать такие области, как исследование космоса. Энергетические проблемы могут быть решены с помощью новых технологий, таких как ядерное деление, что обеспечивает поддержку ИИ.

Мое мнение о Мете:
Альтман выразил уважение конкурентоспособному подходу Meta в области ИИ, но он считал, что OpenAI имеет больший потенциал для инноваций и что ее командная культура больше ориентирована на инновации, чем Meta, а не на копирование существующих результатов.

Оригинальное видео : https://www.youtube.com/watch?v=mZUG0pr5hBo

Ниже приводится стенограмма беседы с небольшими изменениями, внесенными в перевод.

ИИ не просто «помощник в научных исследованиях», он действительно может открывать новые научные достижения

Джек Альтман: Я хочу начать с будущего ИИ, особенно среднесрочного. Краткосрочная перспектива меня не очень интересует, а долгосрочную никто не может предсказать, но пяти-десятилетний период — это самый достойный разговора период. Я хочу, чтобы вы смело предсказали что-то конкретное.

Начнем с ПО. В настоящее время наиболее эффективным сценарием применения является программирование или чат и программирование. Что дальше? После «чат + программирование», какие новые сценарии применения ИИ, по вашему мнению, появятся?

Сэм Альтман: Я думаю, что выйдет много потрясающих новых продуктов, например, действительно сумасшедшие социальные опыты и процессы совместной работы с ИИ, похожие на Google Docs, но гораздо более эффективные. Вы начнете видеть такие вещи, как «виртуальные сотрудники».

Но я думаю, что самое важное в ближайшие пять-десять лет — это то, что ИИ действительно может открывать новую науку. Это звучит как смелое заявление, но я думаю, что это правда. Если это верно, со временем это окажет влияние, намного большее, чем что-либо еще.

Джек Альтман: Как вы думаете, почему ИИ может открывать новые научные открытия?

Сэм Альтман: Я думаю, что мы достигли прорыва в «способности рассуждать» модели. Еще предстоит пройти долгий путь, но у нас есть примерное представление о том, куда двигаться дальше. И вы знаете, o3 уже очень умный, и вы слышите, как люди говорят: «Ух ты, это как хорошая докторская степень».

Джек Альтман: Что именно вы подразумеваете под «прорывом в способности рассуждать»?

Сэм Альтман: То есть, эти модели теперь могут делать такие рассуждения, которые можно было бы ожидать от доктора философии в определенной области. В каком-то смысле, так же, как мы видели, как ИИ достигал уровня лучших программистов мира, или набирал высокие баллы на самых сложных математических соревнованиях мира, или решал задачи, которые под силу только экспертам-докторантам в этой области.

Мы можем не выразить особого удивления, что на самом деле безумие, но это действительно замечательная вещь. За последний год был достигнут большой прогресс в рассуждающей способности моделей.

Джек Олтман: Вас это удивляет?

Сэм Альтман: Да.

Джек Альтман: Изначально вы думали, что это просто «очередное обновление токена»?

Сэм Альтман: Я думал, что нам понадобится некоторое время, чтобы достичь нынешнего положения, но прогресс за последний год оказался гораздо более быстрым, чем я ожидал.

Джек Альтман: Соответствует ли процесс реализации этой «способности рассуждать» вашему первоначальному представлению?

Сэм Альтман: Как это часто случалось в истории OpenAI, самые глупые идеи часто срабатывают. Я больше не должен этому удивляться, но это все еще удивляет, когда это происходит.

Джек Альтман: Как вы думаете, сила рассуждения позволит науке развиваться быстрее или приведет к совершенно новым открытиям, или и то, и другое?

Сэм Альтман: Я думаю, и то, и другое.

Вы уже можете слышать, как некоторые ученые говорят, что они более эффективны с ИИ. Хотя мы еще не достигли положения, когда ИИ может проводить научные исследования полностью автономно, если человек-ученый может быть в три раза эффективнее, используя o3, это было бы очень существенным изменением.

По мере развития технологий ИИ постепенно приобретет определенную степень возможностей для независимых научных исследований и даже сможет открывать новые законы физики.

Джек Альтман: Происходит ли это сейчас в режиме помощи, подобном режиму второго пилота?

Сэм Альтман: Да, это еще не тот момент, когда можно просто сказать ChatGPT "помоги мне открыть новую физику" и он действительно это сделает. Это скорее вспомогательная роль, как "второй пилот".

Но я слышал, как некоторые биологи неофициально говорили, что, например, ИИ действительно выдвинул очень многообещающую идею, а затем они развили ее дальше, и это действительно привело к фундаментальному прорыву.

Джек Альтман: Как вы думаете, было бы проще позволить ИИ помочь вам построить целый бизнес в сфере электронной коммерции или позволить ему завершить сложное научное исследование?

Сэм Альтман: Я думал об этом — например, если вы построите ИИ-ускоритель частиц за 100 миллиардов долларов и позволите ему принимать решения, анализировать данные, говорить нам, какие эксперименты проводить, а затем мы их выполним, это один способ. Другой способ — вы тратите те же деньги на создание инфраструктуры ИИ, которая может взаимодействовать с реальными экономическими системами.

Какое направление с большей вероятностью позволит ИИ достичь прорывных результатов? Я думаю, что физика — более «чистая» проблема. Если вы можете получить новые данные физики высоких энергий и дать ИИ экспериментальные возможности, я думаю, что это более ясная и контролируемая проблема.

Я слышал, как некоторые люди говорят, что они ожидают, что первой областью, где ИИ самостоятельно сделает научные открытия, будет астрофизика. Я не уверен, что это точно, но причина в том, что данных просто тонна, и у нас недостаточно докторов наук, чтобы их проанализировать.

Может быть, открывать для себя что-то новое не так уж и сложно, но я не могу сказать наверняка.

Джек Альтман: Хорошо, наука будет совершенствоваться, а программирование и возможности общения будут продолжать совершенствоваться. А что насчет деловой стороны? Можете ли вы также заставить ИИ построить целую компанию для вас с помощью одного запроса, например, «Я хочу построить этот бизнес», и он это сделает — это действительно произойдет?

Сэм Альтман: Некоторые люди делают это в небольших масштабах сейчас. Вы слышите истории о людях, использующих ИИ для проведения маркетинговых исследований, открытия нового продукта, а затем отправки письма производителю для его изготовления, продажи на Amazon и запуска рекламы.

Эти люди действительно нашли способ начать игрушечный бизнес с ИИ очень "низовым" способом, и это действительно работает. Так что, действительно есть люди, которые "поднимаются" шаг за шагом.

От мозга к телу: будущее человекоподобных роботов уже здесь

Джек Альтман: А как насчет "физических действий" в реальном мире ? Например, перемещение физических объектов. Потому что вы очень четко объяснили это в терминах программного обеспечения, и я верю вам в науке, но как насчет физических операций в реальном мире?

Сэм Альтман: Мы немного отстаем в этой области, да. Но я думаю, что мы в конце концов доберемся туда.

Например, теперь у нас есть некоторые новые технологии, которые могут обеспечить автономное вождение на стандартных автомобилях, что намного лучше любого текущего метода. Хотя это может быть не тот "гуманоидный робот", о котором вы упомянули, если наша технология ИИ действительно сможет управлять собой, это будет очень впечатляюще.

Конечно, создание человекоподобных роботов по-прежнему остается конечной целью, и я глубоко забочусь об этом и верю, что в конечном итоге мы ее достигнем, но это всегда было очень сложной проблемой машиностроения .

Джек Альтман: То есть, сложность больше в этой области?

Сэм Альтман: Не совсем. И то, и другое сложно. Несмотря на то, что у нас идеальный мозг, я не думаю, что у нас пока идеальное тело.

OpenAI на самом деле работала над проектом роботизированной руки в ранние дни. Трудность была не в «технических трудностях», которые мы себе представляли, а в том, что оборудование постоянно ломалось, а симулятор всегда был немного неточным.

Но, знаете, мы разберемся, и я верю, что в ближайшие пять-десять лет у нас появятся действительно удивительные человекоподобные роботы, которые действительно удивительны и смогут ходить по улицам и делать множество вещей.

Джек Олтман: Да, я думаю, именно тогда действительно начнется технологический скачок.

Сэм Альтман: Я тоже так думаю. Это не только откроет массу новых возможностей в реальном мире, но я думаю, что этот опыт будет очень «странным». Мы на самом деле привыкли ко многим технологиям. Например, то, что ChatGPT может делать сейчас, пять лет назад звучало бы как чудо, но мы к этому приспособились.

Но если вы пойдете по улице и увидите, что половина из них — роботы в действии, вы сразу к этому привыкнете? Я не уверен, может быть, со временем вы так и сделаете, но это, безусловно, будет большой сдвиг.

Джек Олтман: Было такое ощущение, будто появился новый вид и начал нас заменять.

Сэм Альтман: Да, я думаю, что ощущения в то время… возможно, не совсем похожи на «новый вид» или «замену» людей, но это определенно заставит людей почувствовать, что «будущее уже наступило». И сейчас, даже с такой мощной технологией, как ChatGPT, она все еще не дает людям этого интуитивного ощущения, что «будущее уже наступило».

Я думаю, если мы сможем изобрести какие-то новые вычислительные устройства, это может принести это "ощущение будущего". Хотя ChatGPT и эти агенты кода нового поколения действительно удивительны, они все еще ограничены традиционной формой "вычислительного устройства".

Джек Альтман: Да, они все еще заперты в компьютере.

Сэм Альтман: Да, это интересно. ИИ сейчас может делать что-то только на компьютере. Но мне интересно, какую часть экономической ценности в мире составляет когнитивный труд — то, что можно делать перед компьютером? Около половины.

Джек Альтман: Я собирался сказать около четверти.

Сэм Альтман: Я не уверен, но это определенно большой процент.

Джек Альтман: Да, как только у нас появятся интеллектуальные системы, которые действительно будут обладать физическими возможностями, риск станет намного выше, поскольку они будут намного могущественнее людей.

Сэм Альтман: Я не уверен, что это "гораздо более рискованно". Например, создание биологического оружия или парализует энергосистему страны на самом деле не требуют "физического" интеллекта и могут нанести большой ущерб. Так что с этой точки зрения это не обязательно более опасно.

Напротив, есть некоторые «более абсурдные» риски. Например, я бы волновался, что гуманоидный робот случайно столкнет моего ребенка во время прогулки, если я ему действительно не доверяю.

В эпоху сверхразума люди будут быстро адаптироваться и создавать «новые роли».

Джек Альтман: Итак, если мы представим, что снова сидим здесь через десять лет, мы спросим: ИИ оправдал наши первоначальные прогнозы? Какие показатели вы ожидаете? Например, была ли четкая точка перегиба на кривой роста ВВП? Увеличилась ли продолжительность жизни людей? Сократилась ли бедность? Или это будет что-то совершенно иное?

Сэм Альтман: Каждый год — по крайней мере, до прошлого года — я говорил: «Я думаю, что ИИ проделает большой путь, но нам еще предстоит решить множество сложных проблем».

Но сейчас я более чем когда-либо уверен в том, куда движется ИИ. Я действительно чувствую, что сейчас у нас есть приблизительное представление о том, как построить очень мощные, очень способные системы ИИ.

Если конечный результат не приведет к ожидаемым нами кардинальным изменениям, я бы предположил, что, возможно, мы действительно создали сверхразум, но он не сделал мир лучше и не оказал того огромного влияния, которое мы себе представляли. Это звучит нелепо, но такое может произойти.

Например, если бы я сказал вам в 2020 году: «Мы создадим что-то вроде ChatGPT, что будет столь же умным, как аспирант в большинстве областей, мы выпустим его, и большая часть мира будет им активно пользоваться». Может быть, вы поверите, может быть, нет.

Но если вы верите, что этот сценарий действительно происходит, то вы, вероятно, также ожидаете: «В таком случае мир определенно будет совсем другим». Но сейчас кажется, что изменения в мире не столь радикальны.

Джек Альтман: Совершенно верно.

Сэм Альтман: Итак, сейчас у нас есть просто потрясающая технология.

Джек Альтман: Да, как и тест Тьюринга, все были очень обеспокоены этим, но когда дело дошло до этого, никого это не слишком волновало. Я не знаю, в чем причина этого.

Сэм Альтман: Да, или даже если у вас есть эта система, которая делает для вас удивительные вещи, но ваш образ жизни фактически тот же, что и два года назад, и способ работы практически тот же.

Джек Олтман: Как вы думаете, возможно ли , что у нас есть сверхразум, может быть, с IQ 400, но мы, люди, продолжаем жить так же, как и раньше?

Сэм Альтман: Я думаю, это вполне возможно. Например, если это поможет нам открыть новую науку, то общество в конечном итоге адаптируется к этим изменениям, но этот процесс может быть очень медленным.

Джек Альтман: Интересно то, что если этот сверхразум проявит себя как второй пилот, то внешний мир все равно может отдать должное ученым в этой лаборатории, а не стоящей за ней разумной сущности с «IQ 400».

Сэм Альтман: Я думаю, что это, скорее всего, произойдет. Независимо от ситуации, человеческий инстинкт подсказывает больше заботиться о самом «человеке».

Когда мы рассказываем истории, нам нужно участие «людей». Мы хотим сказать: «этот человек что-то сделал», «он принял определенное решение», «совершил определенную ошибку» или «он что-то испытал» — мы рождаемся с такой потребностью в повествовании.

Джек Альтман: Это одна из причин, по которой я был удивлен. Я бы подумал, что если бы у нас действительно был гуманоидный робот, который выглядел и двигался реалистично, мы могли бы начать проецировать на него эти «человеческие» эмоции.

Сэм Альтман: Может быть, вы правы, и мы это узнаем. Может быть, я ошибаюсь. Я также считаю, что по мере того, как эти роботы будут становиться все более и более «воплощенными», наши отношения с ними станут более близкими, чем сейчас.

Но я думаю, что мы инстинктивно очень обеспокоены нашими собратьями-людьми, и эта тенденция может быть глубоко укоренена в наших биологических инстинктах. Если вы знаете, что это всего лишь робот, неважно, насколько он похож на человека в других аспектах, вы можете не "заботиться" о нем в конце концов. Конечно, это всего лишь мои домыслы.

Джек Альтман: Рассуждение — часть интеллекта, и сейчас, кажется, наметился прорыв. Есть ли другие похожие темы «ключевых способностей», например, «автономия» или «целевая ориентация»? Это одно из направлений исследований?

Сэм Альтман: Я думаю, вы говорите о способности системы придерживаться цели в течение длительного времени и выполнять множество сложных шагов в процессе. Если вы это имеете в виду, то я думаю, что это важное направление.

Джек Олтман: Да, именно это я и имел в виду.

Сэм Альтман: Да, это действительно одно из направлений, которое мы сейчас рассматриваем.

Джек Альтман: Так что вы думаете о будущем пути развития технологий? Какие части вы считаете необратимыми тенденциями? В отношении каких частей вы все еще не уверены, как они будут развиваться?

Сэм Альтман: Я думаю, что мы определенно создадим очень умные, очень мощные модели, которые смогут открывать важные новые идеи и автоматизировать большую часть работы, но в то же время я понятия не имею, как будет выглядеть общество, если мы это сделаем.

Меня больше всего интересует вопрос о возможностях модели, но теперь я думаю, что больше людей должны начать обсуждать: как мы можем гарантировать, что общество действительно сможет извлечь из этого пользу? На эти вопросы становится все труднее отвечать, и они становятся все более и более неопределенными.

То есть, мне кажется безумием, что мы действительно можем решить проблему сверхразума, но общество все равно может быть в беспорядке? Это меня немного беспокоит.

Джек Альтман: Да, иногда я не могу понять, почему люди не реагируют на эти заявления. Это потому, что они просто "полуверы"? Может быть, это одна из причин.

Но я с вами согласен. История многих технологий такова: когда их впервые предлагают, люди не верят, но когда их внедряют, люди быстро привыкают. Так что я не могу сказать, что все это значит.

Сэм Альтман: У меня такое чувство, что мы были очень точны в своих прогнозах относительно технологий. Но странно, что когда эти прогнозы сбываются, общество не меняется так сильно, как я ожидал. Но в конце концов, это не обязательно плохо.

Джек Альтман: Одно из самых очевидных последствий в краткосрочной перспективе, вероятно, касается занятости. Нам даже не нужно верить в какое-то безумное будущее, такие работы, как поддержка клиентов, уже претерпевают значительные изменения.

Сэм Альтман: Да, я считаю, что многие рабочие места исчезнут, а многие рабочие места кардинально изменятся.

Но люди всегда были очень хороши в поиске новых занятий для себя — будь то зарабатывание на жизнь, борьба за социальный статус или предоставление ценности другим. Я не думаю, что эта способность создавать «новые роли» когда-либо иссякнет.

Конечно, с сегодняшней точки зрения эти персонажи могут стать в будущем все более и более «смешными».

Например, не так давно подкастерство не было «настоящей работой», но вы находили способ ее монетизировать, отлично справлялись, и все были за вас рады, и вы тоже были счастливы.

Но если "фермер, который зарабатывает на жизнь сельским хозяйством", посмотрит на все это, он может подумать: Что это за работа? Разве это не просто игра, в которую вы играете, чтобы развлечь себя?

Джек Альтман: Я думаю, они могли бы подписаться на подкаст.

Сэм Альтман: Держу пари, они подпишутся.

Джек Альтман: Им понравится. Но я думаю, что это станет большой проблемой в краткосрочной перспективе. В долгосрочной перспективе — не знаю.

Мне вот что интересно: раньше люди жили за счет сельского хозяйства, и многое из того, что мы делаем сейчас, тогда не имело смысла. Теперь, когда общество так сильно изменилось, будет ли оно другим в этот раз? Если ресурсов действительно достаточно, наступит ли переломный момент, когда люди перестанут создавать новые рабочие места?

Сэм Альтман: Я думаю, что относительная перспектива здесь важна. С нашей точки зрения, люди в будущем действительно могут наслаждаться большим количеством свободного времени.

Джек Олтман: На ​​самом деле, мы уже сейчас много «отдыхаем».

Сэм Альтман: Посмотрите, на вас надет этот прекрасный кашемировый свитер за две тысячи долларов.

Джек Олтман: Это просто свитер.

Сэм Альтман: Ха-ха, так что я думаю, что угол относительности действительно важен. Прямо сейчас наша работа кажется очень важной, напряженной и приносящей удовлетворение. Но, может быть, в будущем мы все просто будем создавать лучшее развлечение друг для друга. Может быть, это то, что мы делаем в какой-то степени прямо сейчас.

«ИИ-компаньон», интегрирующийся в жизнь, может стать идеальной формой продукта OpenAI

Джек Альтман: Давайте поговорим об OpenAI. В настоящее время OpenAI уже имеет ориентированный на потребителя бизнес, а также, очевидно, модель B2B для предприятий и некоторые проекты по оборудованию в сотрудничестве с Джони Айвом, и есть много потенциальных направлений, которые, похоже, постепенно обретают форму.

Можете ли вы рассказать о том, как может выглядеть эта «полная система» или, по крайней мере, как она может выглядеть на определенном этапе?

Сэм Альтман: Я думаю, что потребители в конечном итоге захотят, чтобы мы предоставили им «компаньона на базе искусственного интеллекта» (за неимением лучшего термина).

Он существует в «виртуальном пространстве» и помогает им многими способами через различные интерфейсы и продукты. Он постепенно поймет вас, ваши цели, то, чего вы хотите достичь, и вашу различную информацию.

Иногда вы будете взаимодействовать с ним, печатая в ChatGPT, иногда вы можете использовать более ориентированную на развлечения версию, иногда вы будете использовать его в других сервисах, интегрированных с нашей платформой, а иногда вы будете получать к нему доступ через наши новые устройства.

Независимо от того, в какой форме это «существование» поможет вам достичь желаемого: иногда оно будет активно подталкивать вас к контенту, иногда вы будете активно задавать вопросы, а иногда оно будет просто молча наблюдать и учиться, чтобы в будущем добиться большего.

В конечном итоге возникает ощущение: «Это мой…» У нас пока нет абсолютно точного слова, чтобы описать это, «ИИ-компаньон» — это просто наиболее близкий термин на данный момент.

Джек Альтман: Как вы думаете, является ли форм-фактор вычислительной техники, которую мы используем сейчас, неправильным?

Сэм Альтман: Слово «неправильно» может быть слишком категоричным, но я действительно считаю, что нынешняя форма не является оптимальным решением .

На самом деле, с точки зрения изменения формы, в истории развития компьютеров было только два действительно важных изменения. Конечно, в ранние дни были некоторые изменения, но мы с вами тогда не обращали на них внимания.

В эпоху, которую мы помним, произошло два крупных изменения: одно — это компьютеры, подобные тем, что мы используем сейчас, — клавиатура, мышь, монитор, очень мощные и широко используемые; другое — это устройства с сенсорным экраном, своего рода мобильные телефоны и планшеты, которые мы носим с собой.

Ни одна из этих двух форм не имела ИИ, когда они появились, поэтому вы могли только строить пользовательский опыт на основе технологий того времени и полагаться на другую логику взаимодействия. Теперь у нас есть эта новая технология, которая может быть ближе к идеальному вычислительному устройству в научной фантастике.

Джек Альтман: То есть одно и то же средство можно использовать совершенно по-разному, в совершенно новой форме.

Сэм Альтман: Совершенно верно, и форм-фактор устройства действительно важен.

Джек Олтмен: Как будто это всегда может быть с тобой.

Сэм Альтман: Да, это одна из причин, по которой это важно. Если это устройство может следовать за вами, имеет все эти датчики, действительно понимает, что происходит вокруг вас, и может отслеживать всю эту информацию, и вы можете очень легко заставить его делать сложные вещи с помощью простой команды, то вы можете представить себе совершенно другой форм-фактор устройства.

Джек Альтман: О каких еще компонентах вы сейчас думаете? Например, мы видим, что потребители используют функции чата, стартапы активно используют API, а также проекты устройств, над которыми вы работаете. В дополнение к этому, о каких «ключевых столпах» вы думаете?

Сэм Альтман: Я думаю, что самое важное, чего мир еще не осознал, — это значимость ИИ как «платформы» : это не только то, к чему вы подключаетесь, но и то, что можно интегрировать в другие системы по всему миру.

Например, когда вы находитесь в машине или используете другие веб-сайты или сервисы, это может быть бесшовно. Этот опыт «непрерывной согласованности» станет очень важным.

Кроме того, у нас есть возможность создавать что-то новое, например, новые инструменты повышения производительности и новые способы социального развлечения.

Но я думаю, что вездесущность «вездесущности» станет одной из основных особенностей этой платформы.

OpenAI может выйти в космос? Создание идеальной цепочки поставок «фабрики искусственного интеллекта» — ключ

Джек Альтман: Учитывая огромное влияние интеллектуальных технологий на различные области, а также тот факт, что сам интеллект также содержит множество подмодулей, существует множество «слоев над стеком». Вы уже упоминали проблему энергии, и вы, очевидно, также очень вовлечены в сферу энергетики. Фактически, существует множество слоев от интеллекта до энергии, включая аппаратное обеспечение и так далее.

Так насколько, по-вашему, важна вся эта «технологическая цепочка» для OpenAI и даже для всей страны? Она критична?

Сэм Альтман: Я думаю, что страны должны начать думать об этой проблеме, или, другими словами, мир или страны должны думать об этой системе со всего процесса, от «электронного» до запроса ChatGPT.

Между ними существует множество связей, и теперь я начинаю называть это «фабрикой ИИ ». Я думаю, мы можем назвать это «метафабрикой», потому что теоретически она может воспроизводить себя.

Как бы это ни называлось, суть в том, что мы, весь наш мир, должны выстроить полную цепочку поставок.

Джек Альтман: Так необходимо ли OpenAI лично участвовать во всей цепочке?

Сэм Альтман: Я думаю, что вертикальная интеграция полезна в некоторых отношениях , но нам не обязательно делать все самим. Если мы можем быть уверены, что все это произойдет в достаточно большом масштабе, то нет необходимости делать все это. Так что во многих связях мы можем способствовать значительному прогрессу посредством сотрудничества.

Джек Альтман: Это означает, что нет риска, что «мы потеряли критически важное звено».

Сэм Альтман: Да, именно так.

Джек Альтман: С точки зрения энергии, мы в конечном итоге будем потреблять огромное количество энергии? Это конечное направление?

Сэм Альтман: Я, конечно, надеюсь на это. Исторически одним из самых сильных коррелятов улучшения качества жизни было увеличение изобилия энергии. У меня нет причин думать, что эта тенденция прекратится.

Джек Альтман: Вас беспокоит изменение климата? Или вы считаете, что эти проблемы рано или поздно будут решены?

Сэм Альтман: Это наименьшая из наших забот. Расщепление произойдет, и появятся новые технологии деления.

Джек Альтман: То есть вы менее уверены в термоядерной энергии или более уверены?

Сэм Альтман: Я никогда не говорю «на 100% уверен», но могу сказать, что я уверен, очень уверен.

Джек Альтман: И это будет источником большей части энергии в будущем?

Сэм Альтман: Я так думаю. Но следующее поколение технологий деления тоже действительно потрясающее. Я знаю компанию Oklo, и они делают отличную работу, и есть другие компании, которые делают отличную работу, и это огромный прорыв.

Солнечная энергия и системы хранения энергии выглядят хорошо, но я очень надеюсь, что потребление энергии человечеством в будущем намного превысит энергию, производимую сейчас на Земле. Даже если мы полностью перейдем на термоядерную энергию, как только потребление энергии Землей увеличится в десять или сто раз, это в конечном итоге слишком сильно нагреет Землю из-за отработанного тепла. Но хорошая новость в том, что вся Солнечная система принадлежит нам.

Джек Альтман: Не думаете ли вы, что то, о чем мы говорим, на самом деле означает не только то, что космос очень важен, но и то, что наши возможности по выходу в космос увеличиваются?

Сэм Альтман: По большому счету, да. Мы полетим в космос? Надеюсь. Будет обидно, если не полетим.

Джек Альтман: Интересно, стоит ли мне открыть ракетную компанию? Я уже говорил вам, что, по-моему, вам стоит заняться каким-то стартап-проектом, и есть много направлений, которые вы можете попробовать.

Сэм Альтман:

Мне по-прежнему нравится сосредотачиваться на чем-то одном, а сейчас я очень занята, ведь мне нужно заботиться о семье.

Ответ на переманивание Meta: «Meta — это компания, которая не преуспевает в инновациях»

Джек Альтман: Могу ли я на самом деле спросить вас о Мете? Просто об их динамике и ваших отношениях с ними?

Сэм Альтман: Конечно. Я слышал, что Meta видит в нас своего самого большого конкурента. Я думаю, что для них разумно продолжать работать над этим, даже если их текущий прогресс в области ИИ может быть не таким хорошим, как они ожидали.

Я уважаю их агрессивный настрой и готовность пробовать новые подходы, и поскольку это рационально, я также ожидаю, что они попробуют еще раз, если в этот раз не получится.

Я помню, как Цук говорил, что когда Facebook только начинал, для Google было разумным разрабатывать социальные продукты, хотя все в Facebook знали, что это не сработает. У меня сейчас такое же чувство.

Недавно они начали делать очень выгодные предложения некоторым членам нашей команды, например, подписные бонусы в размере 100 миллионов долларов и даже более высокие годовые зарплаты, что просто безумие.

Но я действительно рад, что пока наши лучшие люди не приняли их предложения. Я думаю, когда люди сравнят два пути, они подумают, что у OpenAI гораздо больше шансов достичь сверхразума и, вероятно, она станет более ценной компанией в долгосрочной перспективе.

Я думаю, что стратегия «предложения большой гарантированной компенсации авансом» как способ убедить людей присоединиться — они на самом деле фокусируются на этом, а не на самой работе и миссии, что меня действительно удивляет. Я не думаю, что таким образом можно построить хорошую культуру.

Я хочу, чтобы мы были лучшим местом в мире для проведения подобных исследований, и я думаю, что мы действительно создали для этого особую культуру.

В настоящее время мы исходим из того, что если мы добьемся успеха (а все в нашей исследовательской группе верят, что у нас есть хорошие шансы на успех), то все будут вознаграждены финансово.

И я думаю, что наш текущий механизм стимулирования соответствует принципу "миссия прежде всего". Экономическая отдача и все остальное естественным образом следуют за миссией. Такой механизм здоров.

Я уважаю Meta за многое, но не думаю, что они хороши в инновациях. Напротив, я думаю, что особенность OpenAI в том, что мы успешно построили культуру, в основе которой лежат инновации.

Они, возможно, и хороши в «повторяемых инновациях», но я думаю, мы понимаем многое из того, что они еще не освоили, — например, что необходимо для достижения настоящих технологических прорывов.

Но, честно говоря, этот опыт стал своего рода «прояснением» для нашей команды — он заставил нас ясно увидеть направление. Желаем им удачи.

Джек Альтман: Да, я думаю, это также затрагивает основной вопрос: считаете ли вы, что достижения ИИ на сегодняшний день достаточно хороши для того, чтобы другие могли добиться успеха, просто «копируя» их? Или настоящие инновации еще впереди?

Сэм Альтман: Я не думаю, что «копии» достаточно.

Я вижу, как многие люди, включая Meta, говорят: «Давайте просто скопируем OpenAI». Таков на самом деле менталитет.

Если вы посмотрите на чат-продукты многих других компаний сейчас, они выглядят почти так же, как ChatGPT, и даже копируют ошибки пользовательского интерфейса, которые мы сделали в начале, что невероятно. И их исследовательская цель — просто догнать наш текущий уровень.

Это урок, который я усвоил за время работы в YC: эта стратегия в принципе никогда не работает. Вы просто гонитесь за прошлыми достижениями своих конкурентов, но не создали культуру «непрерывных инноваций». И как только вы попадаете в это состояние, выбраться из него гораздо сложнее, чем люди думают.

Джек Альтман: Как вам удается делать и то, и другое? То есть быть одновременно и высококоммерческой компанией, и компанией, ориентированной на исследования? У этой модели не так много успешных прецедентов. Я понимаю, как вы это делали до коммерциализации, но теперь у вас есть и коммерческая, и исследовательская, и, похоже, это работает хорошо.

Сэм Альтман: Мы все еще относительно новы с точки зрения продукта, и нам еще предстоит много работать, чтобы действительно заслужить оценку «работает хорошо».

Мы действительно добиваемся прогресса и становимся лучше, но если взглянуть на историю большинства технологических компаний, то они обычно начинают как ориентированные на продукт, хорошо управляемые компании, а затем позже «присоединяют» к себе плохо управляемый исследовательский отдел.

Мы — полная противоположность, единственный известный мне пример, когда все наоборот: мы начинали как очень хорошая исследовательская организация, затем «присоединились» к продуктовому подразделению, которое изначально работало не очень хорошо, а теперь становится все более и более зрелым.

Я верю, что в конечном итоге мы станем великой производственной компанией, и я очень горжусь усилиями команды в этом направлении, но, послушайте, еще 2,5 года назад мы были просто исследовательской лабораторией.

Джек Олтман: Не могу поверить, что прошло всего два с половиной года.

Сэм Альтман: Да, было очень трудно построить всю эту большую компанию за два с половиной года. То, что все сделали, просто потрясающе. ChatGPT был выпущен 30 ноября 2023 года.

Джек Альтман: Это правда. И очевидно, что гораздо проще создать группу людей, которые могут управлять компанией, чем найти группу людей, которые могут заниматься топовыми исследованиями в области ИИ.

Сэм Альтман: Но это все равно сложно. Большинству компаний требуется гораздо больше 2,5 лет, чтобы создать продукт такого размера.

Джек Альтман: Почему вы думаете, что Meta видит в вас такого сильного конкурента? Я понимаю, что они могут думать, что ИИ — это ключ ко всему будущему, но достаточно ли этого?

Сэм Альтман: Этого, наверное, достаточно для объяснения. Кто-то, кто работал в Meta, однажды сказал мне: «Во внешнем мире люди видят ChatGPT как замену Google, но внутри Meta люди видят ChatGPT как замену Facebook».

Джек Альтман: Потому что теперь люди проводят много времени, разговаривая с ним.

Сэм Альтман: Да, они общаются с ChatGPT так же, как они обычно делают это в другом месте, и им это нравится.

Джек Альтман: На ​​самом деле это попытка привлечь «ресурсы внимания».

Сэм Альтман: Это не просто вопрос «конкуренции времени».

Конечно, существует борьба за время, но, что еще важнее, люди чувствуют себя хуже, когда они прокручивают страницы в интернете . Хотя в данный момент это может показаться немного приятным, в долгосрочной перспективе это заставляет вас чувствовать себя все хуже и хуже, особенно все менее и менее довольными собой.

Одна из вещей, которой мы особенно гордимся, это то, что когда люди говорят о ChatGPT, они говорят: «Он заставляет меня чувствовать себя лучше», он помогает мне достигать моих целей, он действительно помогает мне. Это, вероятно, одна из самых теплых и лучших вещей, которые я слышал об OpenAI: кто-то сказал: «Это единственная технологическая компания, услугами которой я пользовался, которая не заставляет меня чувствовать, что она «против меня».

Google показывает ужасные результаты поиска и навязывает рекламу (хотя я люблю Google и эти компании, я не говорю, что они обязательно неправы); Meta пытается «вторгнуться в мой мозг» и заставить меня продолжать прокручивать страницу; Apple выпускает телефон, который мне нравится, но он продолжает отправлять уведомления и отвлекать меня, и я не могу остановиться.

ChatGPT дает мне ощущение, что он просто хочет помочь мне достичь того, чего я хочу. Это ощущение действительно хорошее.

Джек Альтман: Возможно ли создать «социальный продукт», который будет одновременно интерактивным и сохранит эту энергию и позитивный опыт?

Сэм Альтман: Одна из версий, которая мне интересна (хотя я пока не уверен, что это значит), — это «лента», которая по умолчанию пуста и ничего активно не продвигает, но вы можете подсказать ей , например: «Я хочу заняться спортом, можете ли вы продвигать какой-нибудь контент, который может мне в этом помочь?» или «Я хочу узнать больше о текущих событиях, можете ли вы дать мне какую-нибудь нейтральную, не провокационную информацию?»

Такая система, очевидно, не будет столь захватывающей и трудоемкой, как текущие алгоритмические рекомендации, но я думаю, что это было бы очень крутое направление — по-настоящему «выровненный» ИИ, который поможет вам достичь того социального опыта, который вы действительно хотите в долгосрочной перспективе.

Я чувствую, что каждое утро просыпаюсь заряженным энергией человеком, который знает, чего хочет, имеет добрые намерения и предан дню. Но по мере того, как день разворачивается, темп жизни начинает становиться сумасшедшим. К 10 вечера я могу думать: «Я не собирался пить, но я просто выпью виски» или «Я не хочу проверять TikTok, но это должно быть нормально на две минуты». Я согласен, что не стоит слишком сильно себя заставлять. Но если я смогу оставаться «своим утренним я» и если технологии помогут мне достичь того, чего я действительно хочу, то я думаю, что я буду великолепен.

Сэм Альтман: OpenAI для меня не просто «важная работа», но и «интересная головоломка»

Джек Альтман: Я жил с вами некоторое время 10 лет назад. В то время вы все еще управляли YC. Я чувствовал, что у вас было много свободы действий, вы могли делать все, что хотели, и вы не были связаны никакими правилами. Но я думаю, что с тех пор, особенно в последние несколько лет, создается ощущение, что у вас вообще нет никаких правил.

Вы снимаетесь в Stargate, работаете с Джони Айвом… это все очень смелые вещи. Мне интересно, есть ли какие-то изменения в вашем мышлении? Есть ли что-то, что заставило вас действовать так, как вы действуете сейчас?

Сэм Альтман: Я думаю, что наши бабушки говорили правду: «Самое лучшее в старении — это то, что ты все меньше и меньше заботишься о том, что думают о тебе другие». Сейчас я действительно так себя чувствую. Я пережил много взлетов и падений, но это правда, что старение освобождает тебя и заставляет меньше заботиться о том, что думают о тебе другие. Это освобождает.

Джек Альтман: Есть ли еще вещи, в которых вы колеблетесь? Или вы думаете, что у вас есть более высокий уровень «действия», который можно ввести в игру? Есть ли какие-то идеи, о которых вы могли бы подумать: «Я действительно хочу это сделать, но по какой-то причине я отложил это на некоторое время»?

Сэм Альтман: Это второй момент, который я хотел бы отметить: поскольку OpenAI имеет все больше и больше ресурсов и потенциала, мы действительно можем делать все больше и больше вещей. Конечно, есть еще много вещей, которые я хочу сделать, но не могу сделать сейчас, например, построить «сферу Дайсона» в солнечной системе и использовать выход энергии всего солнца для строительства супергигантского глобального центра обработки данных.

Очевидно, что это невозможно сделать сейчас, и это может занять десятилетия. Но в целом у нас есть возможность делать все более и более амбициозные вещи.

Джек Альтман: Итак, когда вы сталкиваетесь с таким количеством вариантов, как вы принимаете решение? Это на самом деле «проблема перегрузки выбором». Теперь вы можете строить ракеты, социальные сети, играть в роботов… вы можете делать все, что захотите. Так как же вы делаете выбор среди такого количества вариантов?

Сэм Альтман: Честно говоря, я не могу этого не подчеркнуть: мое время полностью поглощено, и у меня нет сил делать что-то еще.

И я не собирался управлять даже одной компанией, не говоря уже о куче компаний. Я просто хотел быть инвестором.

Джек Альтман: Можете ли вы сказать, что в целом вам действительно нравится ваша нынешняя работа, даже несмотря на то, что она, возможно, намного превзошла ваши первоначальные ожидания?

Сэм Альтман: Я чувствую себя очень благодарным и очень счастливым. Я не сомневаюсь, что буду скучать по этому времени, когда выйду на пенсию и скажу: «О, как это скучно».

Джек Олтман: И это был действительно крутой и важный опыт, не так ли?

Сэм Альтман: Да, это очень приятно. Я чувствую, что мне очень повезло этим заниматься. Мне это очень нравится, и мне это нравится большую часть времени.

Но честно говоря, этот период был очень, очень интенсивным и немного подавляющим. Я пережил больше взлетов и падений, чем я изначально думал.

Джек Альтман: Это не тот путь, который вы себе представляли, когда начинали. Большинство людей создают компании по разработке программного обеспечения, ожидая, что они станут компаниями по разработке программного обеспечения. Но я не думаю, что вы ожидали, что это будет так.

Сэм Альтман: Предполагалось, что это будет моей «работой после выхода на пенсию» — просто управление небольшой исследовательской лабораторией, вот и все.

Джек Олтман: А во многих параллельных вселенных этого бы даже не произошло, верно?

Сэм Альтман: Да, именно так.

Джек Олтман: Независимо от того, нравится ли вам это и сколько времени вы на это тратите, когда вы сталкиваетесь с этой работой, чувствуете ли вы ее «тяжелой и важной» или она похожа на интересную и забавную головоломку?

Сэм Альтман: Я чувствую и то, и другое одновременно.

С точки зрения социального воздействия или потенциального воздействия, это, вероятно, самая важная и влиятельная работа, которую я когда-либо делал в своей жизни.

Я не хочу показаться слишком эгоцентричным, но, возможно, эта работа в каком-то смысле историческая. Я могу это осознать, когда у меня есть время успокоиться и подумать об этом. Но в повседневной работе речь больше идет о том, чтобы иметь дело с какими-то «тривиальными вещами», и мне на самом деле нравятся эти мелочи. Мне нравятся люди, с которыми я работаю, и делать эти вещи тоже весело.

Конечно, некоторые моменты были напряженными и даже болезненными, но в целом это больше походило на «интересную головоломку», чем просто на «важную работу».

#Добро пожаловать на официальный публичный аккаунт WeChat iFanr: iFanr (WeChat ID: ifanr), где вам будет представлен еще более интересный контент как можно скорее.

iFanr | Исходная ссылка · Просмотреть комментарии · Sina Weibo