Новое интервью главы OpenAI: сингулярности не будет, мир не изменится

Было ощущение, будто мы наткнулись на какой-то огромный секрет, ведь мы открыли законы масштабирования для языковых моделей. Это казалось невероятным триумфом. Я тогда подумал: "Наверное, нам больше никогда так не повезёт, но глубокое обучение - это чудо, которое продолжает удивлять. Одно открытие сменяет другое, и каждое оказывается прорывом". Когда мы добились прорыва в области рассуждающих моделей, я снова подумал: "Вот оно, второго такого не будет". И всё же невероятно, насколько хорошо одна и та же технология продолжает работать. Но, возможно, именно так всегда ощущается момент, когда совершаешь одно из великих научных открытий. Если оно действительно велико, то оно фундаментально и просто продолжает работать. Сэм, добро пожаловать на подкаст Дезнзи. Спасибо, что пригласили. Вы описали в другом интервью. Вы описали Open AI как сочетание четырёх компаний: потребительско-технологической компании, масштабные инфраструктурной операции, исследовательской лаборатории и направление, которое занимается всеми новыми разработками. от железа до интеграции с приложениями, от рынка труда до коммерции. Как всё это складывается в единую стратегию? Каково видение Open AI? Ну, можно считать, что направлений три, а можно четыре, если выделять нашу собственную версию исследовательской лаборатории такого масштаба. Но если говорить о трёх основных, то вот они. Мы хотим быть персональной и подпиской для людей. Я думаю, у большинства людей будет одна, у некоторых будет несколько. И вы будете использовать её в некоторых наших потребительских продуктах. Но вы также будете входить в ряд других сервисов, и вы просто будете использовать её со специализированных устройств. В какой-то момент у вас будет искусственный интеллект, который знает вас, понимает вас и действительно полезен вам. Вот к чему мы стремимся. Чтобы это реализовать, нам приходится выстраивать колоссальную инфраструктуру. Но конечная цель - создать AJI и сделать его очень полезным для людей. Эта инфраструктура, как вы думаете, она в конечном итоге необходима для вашей основной цели? Это в итоге станет отдельным бизнесом или всё же будет исключительно в службе персонального ИИ или пока неизвестно? Вы имеете в виду, когда мы продаём её другим компаниям как сырую инфраструктуру? Да? То есть вы бы продавали её другим компаниям? Или знаешь, ты ведь настолько масштабная вещь. Возможно, у вас появится ещё какое-то применение. Мне кажется, что со временем действительно появится какое-то другое направление использования, но пока не знаю. У нас нет конкретного плана. В настоящее время она просто предназначена для поддержки сервиса, который мы хотим предоставить, и исследований. Да, это логично. Но масштаб настолько ужасающий, что, возможно, стоит быть открытым к дополнительным сценариям. Да, особенно если вы строите крупнейший центр обработки данных в истории человечества, крупнейший инфраструктурный проект в истории человечества. Было отличное интервью, которое вы дали много лет назад в Strict VC, своего рода ранный Open AI и задолго до чата GPT. И они спрашивают: "Эй, какова бизнес-модель? " Или вы сказали: "О, мы спросим" и он сам всё решит. Все посмеялись, но на самом деле за всё время было несколько ситуаций. И совсем недавно тоже, когда мы действительно спрашивали у текущей модели, что нам делать дальше. И она давала поразительно проницательные ответы, до которых мы сами не додумались. Так что, думаю, когда мы говорим подобные вещи, люди не воспринимают нас всерьёз или буквально. А может, и стоило бы, да. Ну, знаете, как человек управляющей организации, я тоже часто спрашиваю у Ии, что мне делать. Иногда он предлагает действительно интересные идеи. Иногда предлагает. Знаете, всё зависит от контекста, который ему задашь.

Какова, по-твоему, основная идея, которая связывает все эти направления? Кроме очевидных вещей, вроде больше дистрибуции, больше вычислений. Ну, исследования позволяют нам создавать отличные продукты, а инфраструктура проводить эти исследования. Это своего рода вертикальная интегрированная цепочка. Вы можете использовать чат GPT или какой-то другой сервис, чтобы получить советы по управлению компанией, но чтобы это работало, нужны фундаментальные исследования и колоссальная инфраструктура. Всё это части одной системы. И вы думаете, что наступит момент, когда это станет полностью горизонтальным или останется вертикально интегрированным в обозримом будущем? Я всегда был против вертикальной интеграции. И теперь я думаю, что я просто ошибался. Да, интересно. Ну, потому что хочется верить, что экономика эффективна и что компании могут специализироваться на чём-то одном и это должно работать. Хотелось бы верить, да, но в нашем случае нет. Хотя обычно в некотором смысле это срабатывает. Вон, например, Nvidia сделали потрясающие чипы, которые потом используют многие. Но история Open AI - это скорее история о том, что нам пришлось брать на себя гораздо больше, чем мы изначально планировали, чтобы выполнить нашу миссию. Верно? Хотя, если посмотреть на историю компьютерной индустрии, она состояла из колебаний. Когда-то был текстовый процессор Wang, а затем персональный компьютер и Blackberry до смартфона. Так что это вертикальная интеграция, отказ от неё, возвращение повторяется. iPhone, кстати, тоже вертикально интегрирован. iPhone, я думаю, это самый невероятный продукт, который когда-либо производила технологическая индустрия, и он потрясающе вертикально интегрирован. Абсолютно согласен. Какие из ваших направлений вы бы назвали

ключевыми для достижения AI? А какие, страховка от неопределённости? Можно сказать, что на поверхности сора, например, не выглядит напрямую связанной с AI. Но я уверен, что если мы научимся строить по-настоящему качественные мировые модели, это окажется гораздо важнее для AI, чем многие думают. Ведь многие тоже считали, что чат GPT не имеет прямого отношения к AI. А он оказался невероятно полезен и для создания лучших моделей, и для понимания того, как общество хочет использовать такие технологии, и для того, чтобы само общество осознало: "Гдите, с этим теперь придётся иметь дело". Долгое время, когда мы говорили про Иджа, и люди отвечали: "Это не случится или нам всё равно". А потом внезапно всем стало не всё равно. Поэтому помимо пользы для исследований, я убеждён, что общество и технологии должны развиваться вместе. Нельзя просто выдать продукт в конце пути. Так не работает. Это постоянный процесс взаимного влияния. Расскажите подробнее о том, как SР вписывается в вашу стратегию. Ведь в Экс есть много обсуждений вроде зачем тратить ценные GPU насо. Это компромисс между краткосрочным и долгосрочным. Да, и в новой версии есть интересный поворот с социальными функциями. Любопытно, как вы это видите. Мета не звонили, не возмущались. Какую вообще ожидаете реакцию? Ну, если уж одна из наших компаний похожа на другую и кто-то должен возмущаться, то точно не они. Понятно. Я просто не знал всей истории. Но смотрите, мы не собираемся. Во-первых, я думаю, что круто создавать отличные продукты, и людям нравится новая ссора. А во-вторых, важно дать обществу представление о том, что грядёт, в контексте той самой коэволюции. Очень скоро миру придётся столкнуться с видеомоделями, способными создавать убедительные дипфейки кого угодно и показывать буквально всё, что угодно. И в целом это будет замечательно, хотя обществу придётся немного адаптироваться. Как SG GPT, мы понимали, что миру нужно осознать, где он теперь находится. Точно также важно, чтобы мир понял, куда стремительно движется видео, потому что видео вызывает гораздо более сильный эмоциональный отклик, чем текст. И очень скоро мы будем жить в мире, где это станет повсеместным. Так что я думаю, что здесь что-то есть. Как я уже упоминал, я думаю, это поможет нашей исследовательской программе и находится на пути к AI. Но да, что-то вроде того. Вы знаете, это не может быть только о том, чтобы сделать людей безжалостно эффективными и чтобы они решали все наши проблемы. Должно же быть немного веселье на этом пути, хотя мы не будем выделять на это безумное количество вычислительной мощности. Это тонны в абсолютном смысле, не в относительном.

относительном. Я хочу поговорить о будущем интерфейсов и человек, потому что ещё в августе вы сказали, что модели уже насытили сценарий использования чата. Как по-вашему будут выглядеть будущие интерфейсы? Это будет что-то вроде суперприложения, как Vчаat? Я имел в виду очень узкий смысл насыщения. Если речь идёт о самом базовом чат-формате общения, то модели уже очень хороши. Но потенциал чат-нтерфейса как инструмента далеко не исчерпан. Ведь ты можешь попросить чат вылечи рак. Ну, модель, конечно, пока не способна на такое. Так что сам текстовый интерфейс может развиваться ещё очень долго, даже если для болтовни модели уже достигли потолка. Но, конечно, впереди появятся и другие лучшие интерфейсы. И это, кстати, одна из причин, почему Сосора так интересна. Можно представить мир, где интерфейсом станет потоковое видео в реальном времени. И это откроет массу новых возможностей. И это довольно круто. Вы можете представить новые виды аппаратных устройств, которые всегда осведомлены о том, что происходит. И вместо того, чтобы ваш телефон, например, заваливал вас текстовыми уведомлениями, когда ему вздумается, они будут появляться тогда, когда это действительно уместно, с пониманием контекста. До этого ещё далеко, но направление именно такое. В течение

следующих пары лет, что смогут делать модели, чего они не могут делать сегодня? Будет ли своего рода, знаете ли, замена белых воротничков на гораздо более глубоком уровне? и учёные человекоподобные системы, много чего, но вы затронули тему, которая меня больше всего захватывает. Это и учёный. Да, это безумие, что мы сидим здесь и серьёзно говорим об этом. Я знаю, что есть некая придирка к тому, что буквально представляет собой тест Тюринга, но популярное представление о тесте тюринга как бы пронеслось мимо. Да, это было быстро. Мы ведь долгие годы обсуждали тест тюринга как главный показатель развития Ии. Он казался чем-то невероятно далёким, и внезапно он был пройден. Мир поволновался неделю-две, а потом просто принял. Ну, значит, компьютеры теперь это умеют, и всё пошло дальше. Мне кажется, сейчас происходит то же самое, только с наукой. Для меня личным аналогом теста тюринга всегда был момент, когда Ии сможет заниматься наукой. Вот тогда это и станет настоящим изменением мира. И впервые с GPT5 мы видим эти маленькие-маленькие примеры, где это происходит. Вы, наверное, видели в Twitter, кто-то пишет, что модель сделала небольшое открытие в математике, помогла с чем-то в физике или биологии. И всё, что мы наблюдаем, говорит о том, что это только начало. Думаю, через пару лет модели будут участвовать уже в крупных научных открытиях. И это безумно, ведь это действительно может сильно повлиять на мир. Я искренне верю, что в первую очередь именно научный прогресс делает мир лучше. Если мы входим в эпоху, когда этого прогресса станет намного больше, это колоссальное изменение. Это интересно, потому что это позитивное изменение, о котором люди не говорят. Внимание сменилось к потенциальным рискам сверхумного и но излечение всех болезней - это нам нужно гораздо больше науки. Отличная мысль. Кажется, это сказал Алан Тюринг. Кто-то спросил, действительно ли компьютеры станут умнее великих умов? А он ответил: "Они обязаны быть умнее гениев. Достаточно, чтобы они были умнее посредственного ума, как президент ATT". Думаю, это по-прежнему верно. Мы только что видели запуск периодик на прошлой неделе. Его сделали выпускники Open UI. И здорово видеть, как много новаторских идей рождается не только у нас, но и у тех, кто вышел из компании. Да, мы надеемся, это только начало. Хочу спросить шире, если говорить о развитии технологии и о том, что изменилось к 2025 году, что вас удивило, что заставило пересмотреть взгляд на мир после выхода Ча GPT? Многое, но, пожалуй, самое удивительное. Насколько много нового мы продолжаем находить. Когда-то нам казалось, что мы наткнулись на один-единственный великий секрет. Законы масштабирования языковых моделей. Это казалось невероятной удачей. Я думал, всё, второй раз нам так не повезёт. Но глубокое обучение - это чудо, которое не перестаёт удивлять. Прорыв за прорывом. Когда мы добились прогресса в моделях рассуждения, я снова подумал: "Вот теперь точно такого больше не повторится". И всё же невероятно, что одна технология работает так хорошо. Но, возможно, именно так и ощущается момент, когда находишь одно из великих научных открытий. Если оно действительно фундаментальное, оно просто продолжает работать. Но объём прогресса, например, если бы вы вернулись и использовали GPT 3. 5, той версией, с которой стартовал чат GPT, вы бы сказали: "Я не могу поверить, что кто-то использовал эту штуку". Сегодня у нас гигантский запас возможностей. Большинство людей судят о чат GPT по тому, что видят. А тем временем какие-то зануды в Кремне и долине уже работают с кодеками и говорят: "Эти пользователи вообще не понимают, что происходит". А есть учёные, которые смотрят на них и говорят то же самое. Этот навес потенциала колоссален, и мы просто прошли такой большой путь в том, что могут делать модели. А с точки зрения дальнейшего развития, как далеко мы можем зайти с ЛМ? В какой момент нам потребуется новая архитектура? Какие прорывы необходимы? Я думаю, достаточно далеко, чтобы мы могли создать что-то, что выяснит следующий прорыв с помощью текущей технологии. Это немного самоотсылочно, но если LLM-технологии дойдут до уровня, когда смогут проводить исследования лучше, чем вся команда Open AI вместе, этого будет достаточно. Да, это был бы большой прорыв, очень большой прорыв. Итак, о более

приземлённом. Вы знаете, одна из вещей, на которую люди начали жаловаться. Южный парк снял об этом серию на чрезмерную вежливость и чат GPT, в частности. Насколько сложно справиться с этим? О, с этим совсем не сложно справиться. Более того, многим пользователям это нравится. Если посмотреть, что люди пишут о чат GPT онлайн, многие как раз хотят вернуть этот стиль. Так что это не техническая, а скорее вкусовая проблема. И это ни в коем случае не удивительно. Но пользователи хотят того, как, например, они хотели бы, чтобы чатбот себя вёл в разных ситуациях. То есть придётся настраивать личность чатбота под каждого. Думаю, что да. Я имею в виду, в идеале вы просто немного поговорите с чат GPT, и он как бы проведёт с вами интервью, а также увидит, что вам нравится, а что нет. А пока, вероятно, пользователи просто будут выбирать вариант, который им ближе. Да, это имеет смысл. Очень интересно. И на самом деле есть одна вещь, о которой я хотел бы вас спросить. Забавно, ведь долгое время мы наивно думали, что можно создать одну модель, с которой захотят говорить миллиард людей. И всё же это было наше предположение в течение долгого времени. Верно. Потому что у людей очень разные друзья, да. Так что теперь мы пытаемся это исправить. Да, разные друзья, разные интересы, разные уровни интеллектуальных способностей. Естественно, никому не нужно одно и то же общение. И в этом сила и он может говорить с каждым по-разному. Например, вы можете сказать: "Объясни мне как пятилетнему". А можно и не просить, просто изначально выбрать такой стиль. Интересно. Я хочу задать вам вопрос как генеральному директору. Было интересно наблюдать за вами. Вы только что заключили эту сделку AMD. Компания сейчас на другом уровне. У вас большое влияние. Как изменилось ваше мышление с тех пор, как вы подписали первое соглашение? Тогда у меня было очень мало управленческого опыта. Я вообще не из тех, кто естественно склонен к операционному управлению. Я скорее инвестор и раньше именно этим занимался. Думал, что это и есть моя карьера, хотя вы были генеральным директором до этого, не очень хорошим. И поэтому, я думаю, у меня был склад ума инвестора, консультирующего компанию. И теперь я понимаю, каково это на самом деле управлять компанией. Я научился многому. Научился видеть не только финансовую сторону, но и операционные последствия сделок. Верно? Видеть все последствия подписания соглашения, а не просто: "О, мы получим распределение денег". Да, это имеет смысл, потому что я просто скажу, я был очень впечатлён улучшением структуры сделки. В более широком смысле, только за

последние несколько недель вы упомянули AMD, но также Oracle, Nvidia. Вы решили заключать эти сделки и партнёрства с компаниями, с которыми вы сотрудничаете, но которые также потенциально могут конкурировать с вами в определённых областях. Как вы решаете, когда сотрудничать, а когда нет, и что вы вообще об этом думаете? Мы решили, что пришло время сделать очень агрессивную ставку на инфраструктуру. Я никогда не был так уверен в нашем исследовательском плане и в экономической ценности, которую принесут эти модели. Но чтобы действовать в таком масштабе, нужно, чтобы значительная часть индустрии нас поддержала от уровня электронов до распространения моделей. Поэтому мы будем активно сотрудничать со многими. Вы должны ожидать гораздо большего от нас в ближайшие месяцы. Судя по тому, как вы говорите о масштабе, кажется, что вы готовы развивать инфраструктуру без ограничений. Вы бы масштабировали это настолько, насколько это возможно? Ну, какие-то ограничения, конечно, есть. Например, общий мировой ВВП или доля умственного труда. Мы ещё не занимаемся работотехникой, но, кажется, пределы всё ещё очень далеки от нынешней точки. Если мы правы насчёт, я не должен говорить от нынешней точки, если мы правы в том, что возможности модели достигнут такого уровня, о котором мы думаем, то экономическая ценность, которая там находится, может зайти оченьочень далеко. То есть, если бы у вас была только текущая модель, вы бы не стали бы делать такую ставку? Нет, определённо нет. Я имею в виду, мы всё равно расширялись бы, потому что мы видим, какой большой спрос, который мы не можем удовлетворить с помощью сегодняшней модели, но мы не были бы настолько агрессивными, если бы у нас была только сегодняшняя модель. Мы смотрим на год или два вперёд. Интересно.

Интересно. У Чат GPT 800 млн еженедельных активных пользователей, около 10% населения мира. Самый быстрорастущий потребительский продукт за всю историю, кажется. Быстрее, чем всё, что я когда-либо видел. Как вы балансируете развитие продукта и научные исследования? Когда ресурсов не хватает, а это происходит часто, мы почти всегда отдаём приоритет исследовательским задачам, даже если это ограничивает продукт. Одна из целей расширения инфраструктуры, чтобы больше не приходилось делать такие болезненные выборы. Бывают странные времена. Например, запускается новая функция, и она становится действительно вирусной, тогда исследования временно жертвуют некоторыми графическими процессорами. Но в целом мы здесь, чтобы создать AGI, и исследования получают приоритет. Вы сказали в вашем интервью с вашим братом Джеком о том, что знаете, как другие компании могут пытаться имитировать продукты или покупать ваш или нанимать ваших, всякое такое, но они не могут купить культуру или они не могут создать повторяющуюся своего рода машину, если хотите, которая постоянна культура инновации. Как вы это сделали или что вы делаете? Расскажите об этой культуре инновации. Думаю, то, что я пришёл в Open AI из инвесторской среды, очень помогло. Хорошая исследовательская культура гораздо ближе к тому, как работает успешный венчурный фонд на ранней стадии, где делают ставки на талантливых основателей, чем к классической продуктовой компании. Мне кажется, этот опыт действительно помог нам выстроить культуру, которая у нас сейчас есть. В каком-то смысле это напоминает то, как я вижу, скажем, Бенедикта Сисон. Ты ведь тоже CO, но у тебя при этом портфель проектов, и в мою компанию ты тоже пришёл как инвестор. Верно. Я как бы противоположность, не CO, который стал инвестором, а инвестор, который стал CO. Это необычно в этом направлении. Да, это почти никогда не работает. Вы, пожалуй, единственный, кого я знаю, у которого это получилось. Ведь с Workгде было похоже. Но Анил, он был оператором до того, как стал инвестором. И я имею в виду, он действительно был оператором. Я имею в виду People Soft была довольно большой компанией. А почему так? Почему, если ты уже инвестор, то ты не можешь быть оператором? Думаю, дело не в желании. Просто если ты хорош в инвестициях, это не значит, что ты хорош в организационной динамики, в разрешении конфликтов, в психологии всех этих странных процессов, из которых рождается внутренняя политика. Работа операционного руководителя CO, она невероятно объёмная и при этом далеко не всегда интеллектуально вдохновляющая. Это не та тема, о которой можно поговорить на коктейльной вечеринке. Инвестор - это человек, о котором говорят: "Он такой умный, он видит все компании, знает, что происходит". Это приятно. А вот быть CO часто совсем неприятно. Переходить от хорошего чувства к плохому тяжело. Меня поражает, насколько разны эти роли и насколько огромна пропасть между хорошим днём и плохим днём в этой работе. Да, знаете, это тяжело. Я даже не могу поверить, что руковожу фирмой. Я-то знаю, как это тяжело. И он не может поверить, что руководит Openi, возвращаясь к прогрессу сегодня, полезны ли ещё оценки в мире, в котором они насыщаются, обманываются, какой лучший способ оценить возможности модели сейчас? Некоторые метрики ещё сохраняют смысл, например, научные достижения или доход - это интересный показатель, но статичные тесты и бенчмарки всё менее показательные и их слишком легко прогеймить. Да, более в широком смысле кажется, что в более культура в Твиттере менее заражена идеей AGI, чем год назад, когда вышла эта штука с AI 2027. Многие говорят, что не видят очевидного прогресса в GPT5, хотя он есть, просто не так заметен. Так, стоит ли людям остыть к теме AI или это просто настроение соцсетей? Ну, немного и того, и другого. Я имею в виду, как мы говорили о тесте тюринга, придёт, он пронесётся мимо. Мир не изменится так сильно, как вы бы подумали. Это на самом деле не будет сингулярностью. Нет, не будет. Даже если Ии будет делать безумные научные открытия, общество просто станет учиться быстрее. Но одно из наблюдений, которые мы сделали, люди и общество гораздо более адаптивны, чем мы думаем. Сначала идея AI кажется грандиозной и страшной. Потом ты привыкаешь, принимаешь это, и оказывается, что всё происходит постепенно. Это прекрасно. Я не сторонник большого взрыва. Подпишись прямо сейчас на мой Telegram-канал по ссылке в описании. Я подготовил для тебя топ-три материала, которые, на мой взгляд, должен знать каждый. Первое, карта сотни топовых AI стартапов - это будущее на одной картинке. Второе, прогноз от инсайдера из Openi, который ещё до появления ча GPT предсказал всё, что сейчас происходит с ней неронками. И вот в этом году он выпустил новый прогноз до двадцать седьмого года. И третье, самое мощное - это мой разбор эссе основателя компании Anтроopic, который по сути второй человек в мире искусственного интеллекта. Он по полочкам разложил, что будет происходить в мире ближайшие 5 лет. И главное, каким будет универсальный AI, которого все так боятся или ждут. Переходи по ссылке в

описании. — Как вы своего рода развивали своё мышление? Вы упомянули, что вы всё думали о своего рода вертикальной интеграции. Как вы развивали своё мышление? Каково последнее мнение об управлении и безопасности? этом? Думаю, впереди нас всё равно ждут странные и, возможно, пугающие моменты. То, что пока технологии не вызвали катастрофических рисков, не значит, что этого не произойдёт. Также мы говорим о том, что это странновато, когда миллиарды людей разговаривают с одним и тем же мозгом. И это может вызвать странные социальные эффекты. Не обязательно страшные, просто другие. Я уверен, что какие-то негативные последствия будут, как это всегда бывало с любыми новыми технологиями, начиная с появления огня. Да, я думаю, что мы, как общество, разработаем вокруг этого некоторые защитные меры. Да. Как вы сейчас думаете о правильных подходах к регулированию Ии? На мой взгляд, большинство форм регулирования скорее вредны. Но если модели действительно достигнут уровня сверхчеловеческих возможностей, вот тогда и только тогда стоит проводить очень тщательные проверки безопасности, прежде чем выпускать их в мир. Я тоже не хочу большого взрыва. И да, можно представить множество сценариев, где всё пошло бы очень плохо, но я надеюсь, что регулирование сосредоточится только на этих самых продвинутых моделях, а не на всех подряд. Ведь менее мощные модели приносят массу пользы. Если навязать общие жёсткие ограничения, как в Европе, это будет катастрофа. Да, ведь всё это пока остаётся гипотетикой. сверхразумные модели, которые могут взлететь и выйти из-под контроля. Нам ещё ждать и ждать, пока мы до туда доберёмся. До них ещё далеко. Ничего подобного не появится внезапно на следующей неделе. И именно здесь индустрия часто путает регуляторов. Да. Жёсткие ограничения могут навредить прежде всего США, тогда как Китай, например, таких не введёт. И если Америка отстанет в развитии Ии, это будет действительно опасно для всего мира. Гораздо опаснее, чем отсутствие регулирования того, чего мы пока не умеем делать. А давайте-ка коснёмся авторских прав. Как вы видите развитие этой темы? Особенно с учётом того, что Openiла механизм UPT, возможность не участвовать в обучении моделей. Считаете ли вы, что права будут продаваться эксклюзивно или по модели открытого доступа или как вы думаете, это будет развиваться? Это моё текущее предложение. Говоря об этом, общество и технологии развиваются совместно по мере того, как технология идёт в разных направлениях. Видеомодели они, например, получили очень разную реакцию от правообладателей, чем imн. Так что вы увидите, что это будет продолжать развиваться дальше. Но вынужденное предположение с позиции, в которой мы находимся сегодня, я бы сказал, что общество решит, что является добросовестным использованием. Угу. — Но при этом появится новая правовая модель, регулирующая создание контента в стиле или на основе IP конкретного автора. Ведь любой человек может прочитать роман, вдохновиться им и написать свой, но не может просто пересказать и выдать за своё. Можно говорить о Гарри Поттере, но нельзя переписать его слово в слово. Да. Хотя ещё одна вещь, которая, я думаю, изменится. В случае Сосора мы получили много писем от правообладателей, обеспокоенных использованием их персонажей. Но немало и таких, кто, наоборот, волнуется, что их героев недостаточно включают. Они, конечно, хотят ограничений, чтобы персонажи не говорили чего-то оскорбительного, но при этом хотят, чтобы люди могли с ними взаимодействовать. Ведь это укрепляет связь с аудиторией и повышает ценность франшизы. Если вы постоянно выбираете, например, его персонажа или моего персонажа, мне это не нравится. Так что я вполне могу видеть мир, в котором, в зависимости от решений, которые принимает правообладатель, они и будут больше расстроены тем, что мы недостаточно часто генерируем их персонажа, чем слишком часто. И это, например, это было не очевидной вещью, что это может пойти таким образом. Да, это очень интересный феномен, особенно если вспомнить Голливуд или музыкальную индустрию. Я никогда не понимал, почему, например, музыканты требуют оплату за то, что их песня звучит на матче или в ресторане. Хотя это же бесплатная реклама. Концерты, мерч, узнаваемость, всё только растёт. Но индустрии часто ведут себя иррационально, просто из-за своей внутренней структуры. В музыке, например, виноваты издатели, те, кто буквально охотится за всеми подряд. Вся их работа состоит в том, чтобы помешать вам играть музыку, которую каждый исполнитель на самом деле хотел бы, чтобы её слушали. Поэтому мне любопытно, как это всё в итоге сложится. Я согласен. Логичный подход здесь в том, чтобы разрешить использование, поощрять его, но при этом не допускать искажений, не портить персонажа. Думаю, всё будет неоднозначно. Кто-то скажет: "Да, используйте". Кто-то категорически запретит, но индустрия развлечений не будет похожа на музыкальную, где все права сосредоточены у нескольких крупных игроков. Люди просто попробуют разные схемы и посмотрят, что сработает. Возможно, это станет способом для новых креаторов создавать новых персонажей. Ну а использовать фидака, наверное, будет нельзя.

нельзя. Я хочу поговорить об открытом исходном коде, потому что здесь тоже произошла некоторая эволюция взглядов. У GPT3 не было открытых весов, открытого кода, но вы выпустили очень способную открытую модель в начале этого года. Как вы сейчас на это смотрите? Я думаю, открытый исходный код - это хорошо. Да, я счастлив. Меня действительно радует, что людям очень нравится GPT OSS. А что вы думаете стратегически? Какова опасность того, что Deep модель с открытым исходным кодом, станет доминирующей? Кто знает, что люди будут вкладывать в эти модели с открытым исходным кодом со временем? Я это сложно контролировать. Фактически ты отдаёшь интерпретацию всего происходящего кому-то, кто может быть, а может и не быть под сильным влиянием китайского правительства. Мы, кстати, очень благодарны вам за то, что выпустили качественную открытую модель, потому что сейчас во всех университетах массово используют китайские, и это, честно говоря, кажется опасным. Да, опасно.

Вы говорили, что профессионально вас больше всего волнуют и энергетика. Да, и я даже не ожидал, что они в итоге пересекутся. Это изначально были две отдельные сферы интереса, но теперь они сошлись. Расскажите подробнее о том, как зародился ваш интерес к энергетике. Затем могли бы поговорить, насколько они близки. Ведь вы начали свою карьеру в физике. Вы ведь начали карьеру в физике. Ну, карьеры у меня как таковой не было. просто изучал физику. Моя первая работа была работой в области информатики, CS, компьютерной науки. Если говорить упрощённо, то, глядя на историю, можно сказать: "Лучший способ улучшить качество жизни людей - сделать энергию более дешёвой и доступной". Так что продвинуться в этом направлении кажется отличной идеей. Просто я, возможно, по-другому смотрю на мир. Я вижу энергию буквально во всём. И на Западе, думаю, мы сами загнали себя в угол десятилетиями, запрещая ядерную энергетику. Это было невероятно глупым решением. И вдобавок куча регуляторных ограничений, особенно в Европе, но и в США хватает. А теперь, когда у нас есть Ии, кажется, что нам понадобится вся возможная энергия из всех источников. И как вы видите, как это будет развиваться с точки зрения политики и технологий, например, какие будут крупные источники и как эти кривые пересекутся, и затем, какова правильная политическая позиция в отношении, вы знаете, бурения, гидроразрыва пласта, всех этих вещей. Я ожидаю, что в краткосрочной перспективе большая часть чистой новой энергии в США будет природный газ. По крайней мере, по сравнению с базовой энергией. В долгосрочной перспективе я думаю, что баланс сместится в пользу солнечной энергии с накоплением и ядерной. Я думаю, что некоторое сочетание этих двух победит в будущем, в долгосрочном будущем. и передовая ядерная энергия, то есть СMR, малые модульные реакторы, термоядерный синтез, весь этот спектр. И как, как быстро, по вашему мнению, это произойдёт? Именно на уровне промышленного масштаба. Ведь строить можно, но надо и легализовать. Мне кажется, всё зависит от цены. Если ядерная энергия станет, очевидно, экономически доминирующей, переход произойдёт быстро. История показывает, когда появляется гораздо более дешёвый источник, мир адаптируется стремительно. Цена за энергию очень важна. Если ядерная энергия станет радикально дешевле всего остального, будет мощное политическое давление, чтобы ускорить сертификацию и начать строительство. А если цены окажутся примерно на уровне других источников, антиядерные настроения вновь возьмут вверх, и процесс растянется на десятилетия. Но ведь она должна быть дешевле. Должна. Это ведь потенциально самый дешёвый и чистый источник энергии на планете. Да, дешёвая, чистое. Что здесь может не нравиться? Оказывается, много. Что касается Open AI, каково последнее мнение с точки зрения монетизации, с точки зрения либо определённых экспериментов, либо определённых вещей, на которые вы могли бы тратить больше или меньше времени, разные модели, которыми вы взволнованы. Самое актуальное сейчас в моём сознании, вот прямо сейчас, просто потому что она только что запущена и там много всего использовано, это то, что мы собираемся делать для Сора, модель для генерации видео. Мы только что запустили её, и объёмы использования огромные. И вот что интересно. Как только ты выпускаешь новый инструмент, люди начинают применять его не совсем так, как ты ожидал. Ссоро именно так и случилась. Да, её используют так, как мы и предполагали, но совершенно неожиданным образом. Например, делают забавные мем-видео с друзьями и шлют их в чатах. Это требует совершенно другого подхода к монетизации, ведь видео дорого стоят. Если кто-то создаёт сотни таких роликов в день, модель монетизации

должна быть совсем иной, чем мы планировали. Нам нравится идея, что Сосора подтверждает гипотезу. Люди на самом деле хотят создавать контент не так, как раньше. 1% создают, 10 комментируют, 100% смотрят. Гораздо больше людей хотят творить. Просто раньше это было сложно. Это потрясающе. Но теперь нам нужно переосмыслить, как это монетизировать. Возможно, это будет плата за каждое создание видео. Пока другого пути не видно. Это действительно дорого. В любом случае, это что-то новое, и мы подумаем об этом ещё. Каково ваше мнение о рекламе для нишевых запросов? Открыт для этого. Я, как и многие другие люди, считаю рекламу несколько неприятной, но не то, чтобы она была неприемлема. Есть некоторые реклама, которые мне нравятся. Например, одна вещь, за которую я бы похвалил мета - это реклама в Instagram, которая для меня является своего рода чистой добавленной ценностью. Мне нравится Instagram. Я никогда не чувствовал, что вы знаете на Google. Я чувствую, что я не знаю, что ищу. Первый результат, вероятно, лучше. Реклама - это раздражение для меня. В Instagram это типа я не знал, что хочу эту вещь. Это очень круто. Я никогда не слышал о ней, но я никогда бы и не подумал искать её. Я хочу эту вещь. Но учат GPT с пользователями особое доверие. Даже если он ошибается, люди чувствуют, что он пытается помочь. Если мы разрушим это доверие, начав рекомендовать, скажем, кофемашину не потому, что она лучшая, а потому, что нам за это заплатили, это доверие исчезнет мгновенно. Такая реклама невозможна. Возможно, другие форматы подойдут, но к ним нужно подойти очень осторожно. А насколько велика проблема? Продолжая пример Google, это фальшивый контент, который затем засасывается моделью. И затем они рекомендуют не ту кофемашину, потому что кто-то просто выдал тыся отличных отзывов. Вы знаете, это все эти вещи, которые очень быстро изменились для нас. Это один из тех примеров, что люди делают эти сумасшедшие вещи. Это происходит буквально на глазах. Не просто фейковые отзывы, а платные человеческие рецензии, написанные с помощью чат GPT. Сделай отзыв, который понравится чат GPT. Да, это именно так. Это очень внезапный сдвиг, который произошёл. Мы никогда не слышали об этом 6 месяцев назад, 12 месяцев назад уж точно. И теперь есть настоящая кустарная промышленность, которая, кажется, возникла за одну ночь, пытаясь сделать это. Да, нет, они очень умны там. Так что я не знаю, как мы будем бороться с этим пока, но люди сами разберутся.

Так что это подводит немного к этой другой вещи, о которой мы беспокоились. Вы знаете, мы пытаемся как бы придумывать своего рода потенциальные решения на основе блокчейна, но есть проблема, ведь стимулы в интернете меняются. Раньше автор создавал пост, чтобы его читали, и это и была мотивация. А вот с чатом GPT, если пользователь просто спрашивает чат GPT, а не ходит по сайтам, то кто вообще будет создавать контент и зачем? Не разрушим ли мы договор интернета, по которому люди создают что-то в обмен на внимание или деньги? Наоборот, я думаю, что контента станет больше, если сделать его создание проще и не нарушать механизм вознаграждения. Простой пример ссора. Людям теперь легче, чем когда-либо снять забавное видео. Сегодня они получают лайки, завтра, может быть, появится и модель дохода. Но уже сейчас объём создаваемого контента огромен, так что конец тексту не грозит. Я так не думаю. Нет, просто появится градация, где текст полностью создан человеком, где с помощью инструментов. Мы отдали мета должное, похвалили мета. Так что я теперь я чувствую, что могу задать вам этот вопрос, который заключается в том, что в этом году была настоящая война за таланты в сфере E и всё же Open AI сохранила команду и темп. Как это переживается изнутри? Каждый год с момента запуска Open AI был изматывающим. Первые годы были, пожалуй, самыми вдохновляющими в моей жизни. Работать с гениальными людьми, наблюдать, как рождается история. А потом вышел чат GPT, и я понял, теперь всё изменится. Моя жизнь теперь не будет прежней. Так и случилось. Начался хаос, который длится уже почти 3 года. Да, становится всё безумнее и интенсивнее, но я привык, так что я уже не чувствую этого.

Мы много говорили об Open AI, но у вас также есть несколько других компаний. ретробиосас, бионаука и долголетие и энергетические компании, такие как Хилеон и Окла, это была осознанная стратегия инвестировать в ключевые направления будущего или как мы думаем, дугесама Альтмана, его карьерном пути? Нет, просто я хотел вкладывать деньги в то, во что верю. Это казалось правильным и интересным. Казалось правильным использованием капитала. Да и уж точно полезнее, чем покупать картины. Что в так называемом человеческом алгоритме, по вашему мнению, и будущего найдёт наиболее увлекательным? Думаю, что буквально всё, я уверен, что Ии будет очарован человеком целиком. Изучать, наблюдать, понимать.

В заключение мне нравится ваше прозрение, где вы говорили о том, что следующая ошибка, которую делают инвесторы - это сопоставление паттернов, основываясь на предыдущих прорывах, и просто пытаясь выяснить, что такое следующий Facebook или что такое следующий Open AI, и что следующая такая компания стоимостью в триллион долларов не будет выглядеть точно так же, как Open AI. Она будет построена на основе прорыва, которому Open AI помог, вы знаете, возникнуть. а именно почти бесплатный AGI, общий искусственный интеллект, в масштабе точно так же, как Open AI использовал предыдущие прорывы. И поэтому для основателей инвесторов и людей, пытающихся выяснить будущее, слушающих это, как вы думаете о мире, в котором Open AI достигает этой миссии? Есть почти бесплатный AI. Какие типы возможностей могут возникнуть для создания компаний или инвестирования, которыми вы потенциально взволнованы? Если я честно, не знаю, у меня есть догадки, но я научился главному. Ты всегда не прав. Я действительно научился глубокой скромности в этом вопросе. Когда ты пытаешься рассуждать с дивана, строить умные теории, всё это звучит вроде бы убедительно, но на деле это то, что говорят все остальные. Очень трудно выработать настоящее убеждение. Единственный способ, который я знаю - это быть прямо в окопах, пробовать идеи. общаться с людьми, погружаться в процесс. А у меня теперь просто нет на это времени. Сейчас я думаю только об одном, об одном деле. Поэтому, если бы я начал рассуждать, я бы просто повторял чужие мысли или говорил очевидные вещи. Но я считаю, что это действительно важный вопрос. Если ты инвестор или основатель, это, пожалуй, самый важный вопрос из всех. И ответ на него можно найти только через действие, строя что-то своими руками, экспериментируя с технологиями, разговаривая с людьми, наблюдая за миром. Меня всегда поражала неготовность большинства инвесторов поддерживать именно такие проекты, хотя именно они в итоге и оказываются успешными. Да, вы, интервьюеры, много из этого делали, но большинство фондов просто гонятся за текущим трендом. Мы часто говорим, что в мире, который меняется каждую минуту, пятилетние планы выглядят наивно. Кажется, твой карьерный путь - это не мастер-план, а следование любопытству. Быть рядом с самыми умными людьми, с технологиями, видеть возможности и двигаться вперёд шаг за шагом. Да, именно так. Но при этом искусственный интеллект всегда был тем, чем я хотел заниматься. В университете я изучал Иитом между первым и вторым курсом работал в лаборатории искусственного интеллекта. Тогда, правда, ничего не работало. И я не из тех, кто готов годами биться над тем, что вообще не приносит результата. Тогда было очевидно, это просто не работает. Я был ботаником с детства, и поразительно видеть, как всё изменилось. Вы получили достаточно GPU, графических процессоров и достаточно данных. И зажёгся свет, появилось понимание. Когда мы начали это осознавать, многие в области ИИ просто возненавидели нас, и инвесторы тоже. Им казалось, что это неправильный ответ на проблему. Горкий урок. Ну, остальное уже история, и мы, пожалуй, на этом закончим. Нам повезло быть партнёрами в этом путешествии. Сэм, большое спасибо, что пришли на подкаст. Большое спасибо.