После того, как дом Ультрамена забросали коктейлями Молотова, он ответил длинным постом: «Я понимаю ваш страх перед ИИ».

Тревоги эпохи искусственного интеллекта, наконец, материализовались в крайней форме.

В 3:45 утра в районе Норт-Бич в Сан-Франциско в дверь бросили коктейль Молотова, пламя вспыхнуло, а затем быстро погасло. Внутри жил Сэм Альтман, генеральный директор OpenAI, одной из самых противоречивых технологических компаний в мире.

К счастью, коктейль Молотова отскочил. Никто не пострадал. Чуть более чем через час тот же подозреваемый появился у штаб-квартиры OpenAI в Сан-Франциско, угрожая поджечь здание. Полиция немедленно арестовала его; это был 20-летний мужчина.

На этом новость могла бы и закончиться: «На руководителя компании, занимающейся искусственным интеллектом, совершено нападение; подозреваемый задержан; пострадавших нет».

Но Ультрамен не стал молчать. Час назад он опубликовал очень длинную статью.

«Это фотография моей семьи. Они для меня всё». Таковы были первые строки, сопровождаемые фотографией, на которой он запечатлён со своей партнёршей и сыном. Он объяснил, почему опубликовал эту фотографию, которую обычно намеренно скрывал: «Надеюсь, она заставит следующего человека дважды подумать, прежде чем бросать коктейль Молотова в мой дом, независимо от того, что он обо мне подумает».

Затем он сказал, что несколькими днями ранее была опубликована «подстрекательская статья, направленная против меня», и кто-то предупредил его, что статья была опубликована в то время, когда общественность крайне обеспокоена искусственным интеллектом, что может поставить его в более опасную ситуацию. Тогда он не воспринял это всерьез.

«Теперь я ворочаюсь по ночам, пылая гневом, и начинаю понимать, что недооценил силу слов и повествования».

Впервые в эпоху искусственного интеллекта генеральный директор, осознав, что «кто-то хочет сжечь меня заживо», не стал следовать стандартной процедуре обращения в полицию, дачи показаний и публикации пресс-релиза, а вместо этого записал все свои страхи, гнев и размышления в письменном виде.

Что он сказал поздно ночью?

Статья разделена на три части: убеждения, личные размышления и отраслевые тенденции.

Раздел, посвященный убеждениям, не содержал ничего нового. Искусственный интеллект — самый мощный инструмент для расширения человеческих возможностей, его необходимо демократизировать, власть не может быть чрезмерно централизована, и обществу нужны адаптивные механизмы… Он говорил об этом много раз.

Раздел, посвященный «личным размышлениям», действительно заслуживает внимания. Он говорит, что ему «чем-то можно гордиться, и немало ошибок».

Чем он гордился? Он упомянул свой конфликт с Маском.

Когда Маск попытался получить односторонний контроль над OpenAI, Альтман отказал. Он сказал: «Я горжусь тем, за что боролся тогда, и горжусь тем узким путем, который мы выбрали, путем, который позволил OpenAI продолжить свою деятельность».

Чем же он не гордится? Он сказал, что «избегал конфликтов», причинив огромные страдания и компании, и себе. Он сказал, что «неправильно урегулировал» конфликт с предыдущим советом директоров, создав хаос. Он сказал, что он «несовершенный человек в исключительно сложной ситуации».

Он извинился перед теми, кому причинил боль.

Это самая редкая часть статьи. Извинения руководителей технологических компаний обычно либо являются вынужденным жестом после пиар-кризиса, либо расплывчатыми, без какого-либо существенного признания вины. Заявление Альтмана неполное, но, по крайней мере, правдивое.

В заключительной части статьи он также сказал, что понимает, почему в последние годы развернулось так много «шекспировских драм»: «Как только вы увидите AGI, вы больше не сможете его игнорировать. В нем есть настоящая динамика «кольца власти», которая толкает людей на безумные поступки».

Как он понимал, одержимость желанием стать тем, кто контролирует искусственный общий интеллект, может развратить кого угодно.

История OpenAI сама по себе — это документальный фильм о борьбе за власть. Уход и размолвка Маска, внезапное увольнение бывших членов совета директоров, глубокая интеграция с Microsoft, уход Ильи Суцкевера… каждый эпизод предполагает разные ответы на вопрос «кто контролирует будущее ИИ».

Альтман заявил, что единственное решение — «сделать технологию доступной более широкому кругу людей, чтобы никто не мог завладеть этим кольцом целиком и полностью».

20-летний подозреваемый не дал никаких показаний.

Мы не знаем, почему он бросил коктейль Молотова. Его спровоцировала какая-то статья? Боязнь того, что ИИ отнимет рабочие места? Или какая-то личная паранойя?

Но сам этот инцидент отражает реальное общественное мнение.

Тревога по поводу безработицы, страх перед технологиями и гнев по поводу того, что меньшинство контролирует будущее — эти эмоции резко усилились из-за стремительного роста ИИ за последние два года. Когда OpenAI выпускает новый продукт каждые несколько месяцев, способный «заменить определенные типы рабочих мест», когда ChatGPT фигурирует в отчетах о реструктуризации во всех отраслях, и когда вопрос «Заменит ли вашу работу ИИ?» становится трендовой темой, эти накопившиеся тревоги в конечном итоге найдут выход.

В своей статье Альтман утверждает, что его обеспокоенность теперь выходит за рамки «согласования моделей» и касается того, сможет ли общество в целом создать своевременный механизм реагирования. Хотя это может показаться оправданием для ослабления регулирования, в контексте данного конкретного события это приобретает еще один смысловой уровень:

Даже руководители компаний, занимающихся искусственным интеллектом, начинают признавать, что темпы технологического прогресса превысили способность общества его усваивать.

Это не новое открытие, но услышать это от Ультрамена ранним утром, в тепле от коктейля Молотова, звучит совсем иначе. В последние несколько лет в мире технологий преобладала фраза: «Мы решаем проблемы». Регулирование отстает? Мы будем регулировать себя сами. Потеря рабочих мест? Мы создадим новые рабочие места.

Каждому вопросу соответствует набор ответов.

Однако появление коктейлей Молотова свидетельствует о том, что гнев некоторых людей вышел за рамки «рационального обсуждения».

Насилие, разумеется, не имеет никакой законной силы.

Вне зависимости от мотивов, бросание коктейля Молотова в дом спящего младенца — это предосудительный и наказуемый поступок. Хотя полиция пока не подтвердила, был ли этот инцидент связан с анти-ИИ настроениями или на него повлияли недавние негативные публикации в журнале The New Yorker, сам инцидент отражает растущую социальную тревогу по поводу развития ИИ.

Это беспокойство вполне объяснимо; ни одна технология никогда не меняла мир с такой бешеной скоростью, как искусственный интеллект, и этот страх вполне обоснован.

В этой статье Ультрамен редко говорил с позиции «мы решаем проблему». Он признавал свои ошибки, свои опасения и то, что сам не был до конца уверен, куда ведет дальнейший путь.

Вопрос о том, как люди и ИИ должны сосуществовать, пожалуй, представляет собой более сложную задачу, чем создание общего искусственного интеллекта.

Прилагается оригинальная запись в блоге Сэма Альтмана:

Это фотография моей семьи. Они для меня всё.

Изображения обладают силой, и я надеюсь, что это так. Обычно мы очень скрытны, но я решила опубликовать эту фотографию в надежде, что она заставит следующего человека дважды подумать, прежде чем бросать коктейль Молотова в мой дом — независимо от того, что он обо мне подумает.

Первый человек сделал это вчера в 3:45 утра. К счастью, коктейль Молотова отскочил, и никто не пострадал.

Слова тоже обладают силой. Несколько дней назад вышла провокационная статья, направленная против меня. Вчера мне кто-то сказал, что, по его мнению, время публикации статьи, в период крайней общественной тревоги по поводу ИИ, может поставить меня в более опасное положение. Тогда я не принял это близко к сердцу.

Сейчас я ворочаюсь посреди ночи, пылая гневом, и начинаю понимать, что недооценил силу слов и повествования. Хочу воспользоваться этой возможностью, чтобы сказать несколько слов.

I. Мои убеждения

• Содействие процветанию для всех, расширение прав и возможностей каждого человека, а также развитие науки и техники — это мои моральные обязанности.
• Искусственный интеллект станет самым мощным инструментом расширения человеческих возможностей за всю историю. Спрос на этот инструмент практически безграничен, и люди будут использовать его для достижения поразительных результатов. Миру необходимо огромное количество ИИ, и мы должны понять, как достичь этой цели.
• Этот путь не будет гладким. Страхи и опасения людей по поводу ИИ вполне оправданы — мы переживаем величайшую трансформацию человеческого общества за долгое время, возможно, даже за всю историю. Необходимо решить вопрос безопасности; это не просто вопрос соответствия моделей — нам срочно необходим механизм реагирования общества для защиты от новых угроз, включая новые политические меры, которые помогут нам преодолеть этот сложный экономический переход и двигаться к лучшему будущему.
• Искусственный интеллект должен быть демократизирован; власть не может быть чрезмерно централизована. Контроль над будущим принадлежит всем людям и их институциям. ИИ должен расширять возможности каждого человека, и мы должны коллективно принимать решения о направлении будущего и новых правилах. Я считаю неправильным, чтобы несколько лабораторий ИИ доминировали в принятии наиболее важных решений, формирующих наше будущее.
• Адаптивность имеет решающее значение. Мы все невероятно быстро учимся новому; некоторые суждения будут правильными, некоторые — неправильными, и иногда нам нужно быстро корректировать свои когнитивные процессы по мере развития технологий и эволюции общества. Пока никто по-настоящему не понимает влияния сверхинтеллекта, но его влияние будет огромным.

II. Личные размышления

Оглядываясь на первое десятилетие моей работы в OpenAI, я могу сказать, что есть много поводов для гордости, но и немало ошибок тоже.

Я думаю о предстоящей судебной тяжбе с Илоном, и о том, как я отстоял свою позицию и отказался принять его попытку получить односторонний контроль над OpenAI. Я горжусь этим и тем узким путем, который мы выбрали тогда — путем, который позволил OpenAI продолжить свою деятельность и достичь всего, чего она достигла с тех пор.

Я не горжусь тем, что избегал конфликтов, что причинило огромную боль и мне, и OpenAI. Я также не горжусь хаосом, который создал из-за неправильного разрешения конфликтов с предыдущим советом директоров. Путь OpenAI был бурным, и я совершил много ошибок на этом пути; я несовершенный человек, находящийся в исключительно сложной ситуации, стремящийся к совершенствованию каждый год, постоянно работая над выполнением этой миссии. С самого начала мы понимали, насколько высоки ставки в сфере ИИ и как благие намерения и личные разногласия могут усугубиться. Но непосредственный опыт этих напряженных конфликтов, часто в роли арбитра, оказался невероятно дорогостоящим. Я глубоко сожалею о любой причиненной боли и надеюсь быстрее извлечь уроки из этого опыта.

Я также прекрасно понимаю, что OpenAI сейчас является важной платформой, и нам необходимо управлять ею более предсказуемым образом. Последние несколько лет были крайне напряженными, хаотичными и полными давления.

Но в целом, я невероятно горжусь тем, что мы выполняем свою миссию — то, что в то время казалось почти невыполнимым. Преодолев многочисленные препятствия, мы разработали мощный искусственный интеллект, привлекли достаточно капитала для создания необходимой инфраструктуры, основали продуктовую компанию и бизнес-систему для предоставления достаточно безопасных и надежных услуг в масштабе, и многое другое.

Многие компании заявляют, что хотят изменить мир; мы же действительно этого хотели.

III. Размышления об этой отрасли

Оглядываясь на последние несколько лет, я лично понимаю, почему так много шекспировских драм разворачивается в этой области: «Увидев ИИ, вы больше не сможете его игнорировать». Существует реальная динамика «кольца власти», которая толкает людей на безумные поступки. Я говорю не о самом ИИ как о таком кольце, а скорее о всепоглощающей одержимости «стать тем, кто контролирует ИИ».

Единственное решение, которое приходит мне в голову, — это сосредоточиться на том, чтобы сделать технологию доступной для более широкого круга населения, чтобы никто не мог в одиночку удерживать первенство. Два очевидных способа достижения этой цели — расширение прав и возможностей отдельных лиц и обеспечение того, чтобы демократия всегда играла ведущую роль.

Сила демократического процесса должна превзойти силу корпораций. Законы и правила будут продолжать развиваться, но мы должны действовать в рамках демократического процесса, даже если он хаотичен и медленнее, чем нам хотелось бы. Мы стремимся быть голосом, заинтересованной стороной, но не к абсолютной власти.

Большая часть критики в адрес отрасли вызвана обоснованными опасениями по поводу чрезвычайно высоких рисков, связанных с этой технологией. Эти опасения вполне обоснованы, и мы приветствуем конструктивную критику и дискуссии. Я понимаю антитехнологические настроения; технологии, безусловно, не всегда приносят пользу всем. Но в целом я верю, что технологический прогресс может сделать будущее невероятно светлым — для вас и моей семьи.

В ходе этой дискуссии нам следует коллективно снизить интенсивность наших слов и действий, чтобы меньше семей — как в прямом, так и в переносном смысле — пострадали от взрыва.

Вот адрес блога:
https://blog.samaltman.com/2279512

#Добро пожаловать на официальный аккаунт iFanr в WeChat: iFanr (идентификатор WeChat: ifanr), где вы сможете в кратчайшие сроки увидеть еще больше интересного контента.