Глава DeepMind: миллионы ИИ-агентов выйдут в интернет - и это меняет всё

По сути, можно сказать, что примерно 50% наших усилий направлены на масштабирование и 50 на инновации. И я считаю, что для достижения AI понадобится оба этих направления. Я всегда считал, что если мы создадим AI, а затем будем использовать его как симуляцию разума и сравним с реальным человеческим разумом, то увидим, в чём заключаются различия и что именно остаётся уникальным для человеческого мышления. Возможно, это креативность, возможны эмоции, возможно, сновидение. Существует множество теорий сознания и гипотез о том, что может быть вычислимым, а что нет. В конечном счёте всё упирается в вопрос машины тюринга. Каковы пределы вычислений? То есть нет ничего, что нельзя было бы реализовать в рамках таких вычислительных машин. Ну, скажем так, пока никто не обнаружил во Вселенной ничего принципиально невычислимого. Пока что. Добро пожаловать в подкаст Google Deepmind. С вами я, профессор Ханна Фрай. Это был по-настоящему выдающийся год для ИИИ. Мы увидели, как центр тяжести сместился от больших языковых моделей к агентным ИИ. Мы наблюдали, как ИИ ускоряет разработку лекарств, а мультимодальные модели интегрируются в работотехнику и беспилотные автомобили. Все эти темы мы подробно обсуждали в подкасте, но в финальном выпуске этого года мы решили посмотреть шире, выйти за рамки заголовков и продуктовых релизов и задать куда более крупный вопрос. Куда всё это в итоге движется? Какие научные и технологические вопросы определят следующую фазу? И человек, который очень много думает об этом, Демис Хасабис, генеральный директор и сооснователь Google Deep Mind. С возвращением в подкаст. Демис

рад снова быть здесь. За последний год, мягко говоря, произошло очень многое. Какой сдвиг ты бы назвал самым значимым? О, сложно сказать. Столько всего произошло. Такое ощущение, будто 10 лет уместились в этот один год. Много изменилось. Если говорить о нас, то, конечно, это прогресс моделей. Мы только что выпустили GNI 3, и мы им очень довольны. Мультимодальные возможности. Всё это продвинулось очень далеко. А ещё, наверное, то, что меня особенно радует с лета, это развитие мировых моделей. Думаю, мы ещё поговорим об этом? Да, обязательно. Мы скоро перейдём к этому подробнее. Я помню, как впервые брала у тебя интервью для этого подкаста. И ты говорил о так называемых рекурсивных задачах, идея, что с помощью ИИИ можно разблокировать целый каскад последующих преимуществ. И надо сказать, ты довольно хорошо сдержал это обещание. Хочешь рассказать, где мы сейчас находимся? Что уже практически решено? Что совсем близко, что нет? Да, конечно, главным доказательством стал Альфафолт. Даже странно осознавать, что мы приближаемся примерно к пятилетнему юбилею момента, когда Альфа Фолд, по крайней мере, Альфафол 2, был представлен миру. Это и стало доказательством того, что такие рекурсивные задачи действительно можно решать. Сейчас мы исследуем и другие направления. Я думаю, материаловедений одно из них. Было бы здорово создать сверхпроводник при комнатной температуре, улучшить батареи и подобные вещи. Думаю, это вполне реально. Лучшие материалы самых разных типов. Мы также работаем с термоядерным синтезом. Это то новое партнёрство. Да, мы только что объявили о более глубоком сотрудничестве с Commandth Fusion. Мы и раньше с ними работали, но теперь партнёрство стало гораздо плотнее. Я считаю, что это, вероятно, лучший стартап, занимающийся традиционными такамакреакторами. Они ближе всех к созданию чего-то жизнеспособного. И мы хотим помочь ускорить этот процесс, например, с удержанием плазмы в магнитах и, возможно, с разработкой материалов. Это очень захватывающе. Кроме того, мы сотрудничаем с нашими коллегами в области квантовых технологий. Команда Квантуum AI в Google делает потрясающую работу, а мы помогаем им с кодами коррекции ошибок, применяя машинное обучение. А возможно, однажды они помогут нам. Идеальное замыкание круга. Да, именно. История с термоядерным синтезом особенно впечатляет. Потенциальный эффект для мира, который это может открыть, просто колоссален. Да, конечно. Термоядерный синтез всегда был своего рода святым граалем. При этом солнечная энергетика тоже выглядит очень перспективно. По сути, мы используем термоядерный реактор, который находится в облаках на небе. Но если бы у нас появились модульные термоядерные реакторы, то обещание практически неограниченной, возобновляемой и чистой энергией действительно могло бы изменить всё. Это и есть тот самый святой Граль. И, разумеется, это один из ключевых способов помочь в борьбе с климатическими изменениями. В таком случае многие из наших проблем просто исчезли бы. Безусловно, это открывает массу возможностей. Именно поэтому мы называем это рекурсивной задачей. С одной стороны, это напрямую помогает с энергетикой, загрязнением и климатическим кризисом. Но если энергия действительно станет возобновляемой, чистой и сверхдешёвой, почти бесплатной, то станут возможны и многие другие вещи. Например, доступ к воде, потому что можно будет строить опреснительные установки практически повсюду или даже производство ракетного топлива. В морской воде много водорода и кислорода. По сути, это готовое ракетное топливо. Просто на разделение воды на водород и кислород уходит огромное количество энергии. Но если энергия дешёвая, возобновляемая и чистая, почему бы этого не сделать? Это может работать

круглосуточно. Мы также видим большие изменения в том, как Ии применяется в математике. Он выигрывает медали на международной математической олимпиаде, но при этом может допускать довольно простые ошибки на уровне школьной математики. Почему возникает такой парадокс? Наверное, это одно из самых интересных явлений и один из ключевых моментов, которые ещё предстоит исправить, прежде чем мы сможем говорить об Эйджае. Как ты сказала, в других сферах уже добились успеха, вплоть до золотых медалей на международной математической олимпиаде. Если посмотреть на эти задачи, они невероятно сложные. Их способны решать лишь лучшие студенты в мире. И в то же время, если задать вопрос определённым образом, мы все видели это на собственном опыте, экспериментируя с чатботами, система может допускать довольно тривиальные логические ошибки, не уметь нормально играть в шахматы, что само по себе удивительно. Значит, в этих системах всё ещё чего-то не хватает с точки зрения согласованности. А от общеинтеллектуальной системы, от AGI, как раз ожидается высокая степень консистентности во всём. Иногда это называют рваным интеллектом. То есть в одних задачах они работают на уровне доктора наук или даже выше, а в других не дотягивают и до школьного уровня. Производительность пока очень неравномерна. В отдельных измерениях эти системы впечатляют, но в других остаются довольно примитивными. Нам нужно закрыть эти разрывы. Существуют разные теории, объясняющие, почему так происходит. В зависимости от ситуации это может быть связано даже с тем, как изображение воспринимается и токинизируется. Иногда система буквально не видит все буквы. Например, при подсчёте букв в словах она может ошибаться, потому что не воспринимает каждую букву по отдельности. Есть разные причины таких ошибок. И каждую из них можно исправить, а затем посмотреть, что останется. Но, на мой взгляд, ключевая проблема - это согласованность. Ещё один важный момент: рассуждение и мышление. Сейчас у нас есть системы, которые на этапе инференса тратят больше времени на размышление и благодаря этому дают более качественные ответы. Но пока нет полной уверенности, что это время используется максимально эффективно, например, для перепроверки результатов или использования инструментов для валидации ответа. Мы движемся в этом направлении, но, возможно, пока прошли лишь около половины пути. Мне также вспоминается

история Alльpha GO и затем Альфазиро, где вы убрали весь человеческий опыт, и модель в итоге стала лучше. Есть ли научный или математический аналог этого подхода в тех моделях, которые вы сейчас создаёте? Думаю, то, что мы строим сегодня, больше похоже на Alльpha Go. По сути, большие языковые модели, эти базовые модели, начинаются совокупности всего человеческого знания, что мы выложили в интернет. А это сегодня практически всё. И сжимают это в полезный артефакт, к которому затем можно обращаться и на основе которого можно обобщать. Но я действительно считаю, что мы всё ещё находимся на раннем этапе в плане наличия такого слоя поиска или мышления поверхмодели, как это было у AlphaGo, чтобы использовать модель для направления полезных цепочек рассуждений, идей, планирования и в итоге приходить к наилучшему решению конкретной задачи в данный момент времени. Поэтому мне не кажется, что сейчас мы упираемся в предел человеческих знаний, доступных в интернете. Главная проблема на данный момент в том, что мы пока не знаем, как использовать эти системы полностью надёжным образом, так же, как мы умели делать это с Альфа Go. Конечно, тогда всё было гораздо проще, потому что речь шла об игре. Я думаю, что когда у тебя есть Alльpфагол, ты можешь вернуться назад и, как мы это сделали из серии Альфа, создать Alpha Zero, где система начинает в каком-то смысле самостоятельно открывать знания. Думаю, это и был бы следующий шаг, но это, очевидно, сложнее. Поэтому, на мой взгляд, правильно сначала создать первый шаг, нечто вроде системы уровня AlльphaGo, а уже затем думать о системе уровня Альфаро. Но это также одна из ключевых вещей, которых не хватает современным системам. Способность к онлайнообучению и непрерывному обучению. Мы тренируем эти системы, балансируем их, добучаем, а затем выпускаем в мир, но они не продолжают учиться в реальном мире так, как делаем мы. Я считаю, что это ещё один критически важный недостающий элемент, который будет необходим для AGI. Если говорить обо всех этих недостающих

элементах, я понимаю, что сейчас идёт большая гонка за выпуск коммерческих продуктов, но я также знаю, что корни Google Deep Mind лежат именно в научных исследованиях. Я нашла вашу цитату, где вы недавно сказали: "Если бы всё было по-моему, мы бы дольше оставили и в лаборатории и сделали больше вещей вроде Альфафол. Возможно, даже вылечили бы рак или что-то в этом духе". Как вы думаете, мы что-то потеряли, не выбрав более медленный путь? Думаю, мы и потеряли, и приобрели. Мне кажется, это был бы более чистый научный подход. По крайней мере, таким был мой изначальный план 15-20 лет назад, когда почти никто не занимался. И мы только начинали. Мы как раз собирались запускать Deepмайн. Люди считали, что работать над этим безумие. Но мы верили в это. И идея заключалась в том, что по мере прогресса мы будем постепенно, шаг за шагом, двигаться к AI. очень внимательно относясь к каждому этапу вопросам безопасности, анализируя, что делает система и так далее. При этом не нужно было бы ждать появления AI, чтобы технология стала полезной. По пути можно было бы ответввлять эту технологию и применять её в действительно полезных для общества областях, прежде всего в науке и медицине. Именно это мы и сделали с Альphaфол, который сам по себе не является универсальной базовой моделью, но использует те же техники, трансформеры и другие подходы, и сочетает их с более специфичными методами для конкретной области. Я представлял себе, что будет создано множество таких решений, которые мы бы выпускали в мир так же, как Альфад и которые действительно могли бы привести, например, к лечению рака и другим прорывам. параллельно с нашей работой над более AGI направлением в лаборатории. Но в итоге оказалось, что чатботы можно масштабировать, и людям они действительно полезны. Затем они эволюционировали в эти базовые модели, которые умеют гораздо больше, чем просто чат и текст, включая Gemй. Они работают с изображениями, видео и множеством других модальностей. Это оказалось очень успешным и с коммерческой точки зрения. и как продукт. И мне это тоже нравится. Я всегда мечтал об универсальном ассистенте, который помогал бы в повседневной жизни, повышал продуктивность, возможно, даже защищал бы наше пространство мозга от перегрузки вниманием, чтобы мы могли сосредотачиваться и входить в состояние потока, потому что сегодня слишком много шума. Я думаю, что ИИ, который работает на тебя, действительно может помочь с этим. Так что в этом есть много хорошего. Но одновременно это создало довольно безумную гонку, когда множество коммерческих организаций и даже государств спешат улучшить свои системы и обогнать друг друга. А в таких условиях становится гораздо сложнее параллельно заниматься по-настоящему строгой наукой. Мы стараемся делать и то, и другое. И мне кажется, у нас получается найти правильный баланс. С другой стороны, у того, как всё развивалось, есть и множество плюсов. В первую очередь в эту область пришло гораздо больше ресурсов, а это, безусловно, ускорило прогресс. Кроме того, что интересная, широкая публика сейчас отстаёт от самых передовых технологий всего на пару месяцев с точки зрения того, чем они могут реально пользоваться. То есть у всех есть возможность самим почувствовать, каким будет ИИ. И я думаю, что это хорошо. Правительства тоже начинают лучше это понимать. — Подпишись прямо сейчас на мой Telegram-канал по ссылке в описании. Я подготовил для тебя топ-три материала, которые, на мой взгляд, должен знать каждый. Первое, карта сотни топовых AI стартапов - это будущее на одной картинке. Второе, прогноз от инсайдера из Open AI, который ещё до появления чат GPT предсказал всё, что сейчас происходит с нейронками. И вот в этом году он выпустил новый прогноз до двадцать седьмого года. И третье, самое мощное - это мой разбор эссе основателя компании Anтроopic, который по сути второй человек в мире искусственного интеллекта. Он по полочкам разложил, что будет происходить в мире ближайшие 5 лет. И главное, каким будет универсальный AI, которого все так боятся или ждут. Переходи по ссылке в описании.

описании. Что странно, так это то, что ещё в это же время, в прошлом году, было много разговоров о масштабировании, о том, что мы в итоге упрёмся в стену и у нас просто закончатся данные. И при этом сейчас мы записываем этот выпуск уже после выхода Gem 3, который лидирует по целому ряду различных бенчмарков. Как это стало возможным? Разве не предполагалось, что масштабирование упрётся в предел? Думаю, многие так считали, особенно на фоне того, что у других компаний прогресс был, скажем так, более медленным, но мы никогда понастоящему не видели какой-то стены. Я бы сказал, что, возможно, есть эффект убивающей отдачи. И когда я так говорю, люди часто думают в бинарных категориях: либо есть рост, либо его нет, либо экспонента, либо асимптота. Но на самом деле между этими двумя режимами есть огромное пространство. И я думаю, что мы сейчас где-то посередине. Это не значит, что при каждом новом релизе ты будешь удваивать показатели по всем бенчмаркам. Возможно, так было на самых ранних этапах, 3-4 года назад, но при этом ты всё равно получаешь значимые улучшения, как мы видим с Gemini 3, которые вполне оправдывают инвестиции, дают хорошую отдачу. Так что какого-то замедления мы не наблюдаем. Есть вопросы, например, не заканчиваются ли у нас просто доступные данные. Но и здесь есть способ обхода. синтетические данные, генерация данных. Эти системы уже достаточно хороши, чтобы начинать генерировать данные сами, особенно в таких областях, как программирование и математика, где можно проверять правильность ответа. В каком-то смысле там можно производить неограниченное количество данных. Всё это, конечно, исследовательские вопросы. И я думаю, что наше ключевое преимущество всегда заключалось в том, что мы всегда ставили исследование на первое место. У нас, как и раньше, самая широкая и глубокая исследовательская база. Если оглянуться на последнее десятилетия прорывов, будь то трансформеры, AlльphaGo, Alpha Zero или любые другие вещи, о которых мы сегодня говорили, всё это вышло из Google или Deepmind. Поэтому я всегда говорил, если потребуются новые инновации, именно научные, то я бы поставил на нас, как на то место, где это будет сделано, так же, как это происходило в предыдущие 15 лет с большинством крупных прорывов. И я думаю, именно это сейчас и происходит. И мне, если честно, даже нравится, когда ландшафт становится сложнее, потому что тогда уже недостаточно просто инженерии мирового уровня. Хотя это само по себе невероятно сложно. Нужно сочетать её с наукой и исследованиями мирового уровня, а это как раз то, в чём мы специализируемся. Плюс к этому у нас есть преимущество в виде инфраструктуры мирового класса. Наши TPU и другие системы, в которые мы инвестировали на протяжении долгого времени. И эта комбинация, на мой взгляд, позволяет нам оставаться впереди как инноваций, так и масштабирования. По сути, можно сказать, что примерно 50% наших усилий направлены на масштабирование и 50 на инновации. И я считаю, что для достижения AI понадобятся оба этих направления. При этом даже в Gemini 3, который является выдающейся моделью, мы всё ещё видим проблему галлюцинации. Я видела метрику, согласно которой модель всё ещё может выдавать ответы в ситуациях, когда ей следовало бы отказаться отвечать. Можно ли построить систему, в которой Gнай будет выдавать уровень уверенности, так же, как это делает Альфафолк? Да, думаю, это возможно. И более того, я считаю, что это нам действительно нужно. Это как раз одна из недостающих частей. Мне кажется, мы к этому приближаемся. Чем лучше становятся модели, тем лучше они понимают, что именно они знают, если так можно выразиться, и тем надёжнее на них можно опираться в плане интроспекции и более глубокого размышления, когда они сами осознают, что не уверены или что по этому ответу есть неопределённость. Дальше нам нужно научиться тренировать их так, чтобы они могли выдавать эту неопределённость как разумный возможный ответ. Мы становимся в этом лучше, но всё ещё бывает так, что модель как бы заставляет себя отвечать, хотя, возможно, не должна. И это как раз и приводит к галлюцинациям. Я думаю, что сейчас большая часть галлюцинаций именно такого типа. Так что здесь есть недостающий элемент, который нужно решить. И вы правы, в Альфафолт мы это решали, но, конечно, в гораздо более ограниченном виде, потому что, по идее, где-то за кулисами ведь есть некая мера вероятности того, каким будет следующий токен. Да, для следующего токена такая вероятность есть, так это и работает. Но это не говорит вам о более общей вещи, о том, насколько вы уверены во всём факте целиком или во всём утверждении. Я думаю, именно поэтому нам понадобится использовать шаги размышления и планирования, чтобы возвращаться и перепроверять то, что модель только что выдала. Сейчас это немного похоже на разговор с человеком, который в плохом настроении просто говорит первое, что приходит ему в голову. В большинстве случаев это будет нормально, но иногда, когда вопрос действительно сложный, хочется остановиться, сделать паузу, ещё раз пройтись по тому, что ты собирался сказать, и, возможно, скорректировать ответ. Возможно, в реальном мире это всё реже происходит, но это всё ещё лучший способ вести осмысленный диалог. И я думаю, что моделям нужно научиться

делать это лучше. Я ещё очень хочу поговорить с тобой про симулированные миры и про размещение в них агентов, потому что мы пообщались с вашей командой Джини. Расскажи, почему для тебя так важны симуляции? Что может дать мировая модель, чего не может языковая модель? Слушай, на самом деле это, пожалуй, моя самая давняя страсть. мировые модели и симуляции наряду с и, конечно, сейчас всё это сходится в наших последних работах, таких как Джини. Я думаю, что языковые модели способны понимать очень многое о мире. Честно говоря, даже больше, чем мы ожидали. Больше, чем я ожидал, потому что язык оказался богаче, чем мы думали. В нём содержится больше информации о мире, чем, возможно, предполагали даже лингвисты. И это сейчас подтверждается этими новыми системами. Но при этом остаётся огромный пласт вещей, связанных с пространственной динамикой мира, пространственным восприятием, физическим контекстом, в котором мы находимся, и тем, как это всё работает на механическом уровне. Всё это очень сложно описать словами и обычно просто не описывается в текстовых корпусах. Многое из этого связано с обучением через опыт, онлайн опыт. Есть вещи, которые невозможно по-настоящему описать, их нужно просто прожить. Возможно, сенсорные данные и подобные вещи очень трудно перевести в слова. углы движения, запахи и подобные ощущения. Всё это крайне сложно описать на любом языке. Поэтому здесь есть целый пласт проблем. Если мы хотим, чтобы работотехника заработала или чтобы появился универсальный ассистент, который будет сопровождать тебя в повседневной жизни, возможно, в очках или в телефоне и помогать тебе не только за компьютером, то без такого понимания мира не обойтись. Мировые модели находятся в самом центре всего этого. Под мировой моделью мы понимаем модель, которая понимает причинно-следственные эффекты механики мира, интуитивную физику, то, как вещи движутся и как они себя ведут. Сейчас, на самом деле, мы видим многое из этого в наших видеомоделях. И один из способов проверить, есть ли у вас такое понимание, можете ли вы генерировать реалистичные миры. Потому что если вы можете их генерировать, то в некотором смысле вы должны были понять их. Система должна была инкапсулировать большое количество механик мира, поэтому такие модели, как Gny и Vio, наши видеомодели и интерактивные мировые модели не только впечатляют, но и являются важными шагами к тому, чтобы показать, что у нас есть обобщённые мировые модели. И затем, надеюсь, в какой-то момент мы сможем применить это к работотехнике и универсальным ассистентам. А ещё, конечно, одна из моих любимых идей, которую мне определённо придётся реализовать в какой-то момент - это вернуть всё обратно в игры, в игровые симуляции и создать игры уровня Ультима, что, возможно, всегда и было моим подсознательным планом. Всё это именно так. А что насчёт науки? Можно ли использовать это и в этой области? Да, можно. В науке, опять же, я думаю, что построение моделей научно сложных сфер, будь то материалы на атомном уровне, биология, а также некоторые физические процессы, например, погода, это очень перспективно. Один из способов понять такие системы- научиться строить их симуляции на основе сырых данных. Допустим, речь идёт о погоде. И, очевидно, у нас сейчас есть несколько потрясающих погодных проектов. У вас есть модель, которая изучает эти динамики и может воспроизводить их гораздо эффективнее, чем при расчётах грубой силой. Я думаю, у симуляции и мировых моделей огромный потенциал. Возможно, в виде специализированных моделей для отдельных областей науки и математики. Но ведь туда можно поместить и агента в этот симулированный мир. Верно? Да, верно. Команда Gни 3 привела очень красивую цитату. Почти ни одно крупное изобретение не создавалось с этим изобретением в голове. И они говорили о том, чтобы помещать агентов в такие симулированные среды и давать им возможность исследовать мир, где основным мотиватором выступает любопытство. Да, и это ещё одно действительно захватывающее применение мировых моделей. У нас есть другой проект под названием СIMER. Мы недавно выпустили SIMER 2. Это симулированные агенты. Вы берёте аватар или агента и помещаете его в виртуальный мир. Это может быть обычная коммерческая игра или что-то подобное. Очень сложноя, например, No Man Sky. Космическая игра с открытым миром. И вы можете просто давать агенту инструкции, потому что под капотом у него дминай. Вы можете разговаривать с агентом и ставить ему задачи. Но потом мы подумали: "А что если подключить Джиник к Симмер и буквально уронить агента Симмер в другой и, который создаёт мир на Литу"? Тогда два и начинают взаимодействовать в умах друг друга. Агент Симер пытается ориентироваться в этом мире, а для Джини это просто игрок. Аватару всё равно, что это другой и, поэтому он просто генерирует мир вокруг того, что пытается сделать Симмер. Это невероятно интересно наблюдать. И я думаю, что это может стать началом любопытного обучающего цикла, где у вас почти бесконечное количество обучающих примеров, потому что всё, чему агент Симер пытается научиться, Джини может создавать на Литу. Так что можно представить себе целый мир автоматической постановки и решения задач. Миллионы задач, которые становятся всё сложнее и сложнее. Так что, возможно, мы попробуем выстроить такой цикл. Кроме того, агенты Симер могут быть отличными игровыми компаньонами, а часть того, чему они научатся, может оказаться полезной и для работотехники. По сути, конец скучным NPC. Именно для игр это будет просто невероятно. Но как вы убеждаетесь, что миры, которые вы создаёте, действительно реалистичны? Как вы гарантируете, что не получится физика, которая выглядит правдоподобно, но на самом деле не верна? Да, это отличный вопрос, и это действительно может быть проблемой. По сути, это основа галлюцинации. Некоторые галлюцинации хороши, потому что они позволяют создавать что-то интересное и новое. Иногда, если вы пытаетесь делать креативные вещи или хотите, чтобы система создавала что-то новое и нестандартное, небольшая доля галлюцинации может быть полезной, но они должны быть намеренными. То есть вы как бы включаете галлюцинации или креативные исследования, когда это нужно. Но да, когда вы пытаетесь обучать агента Симмер, вы не хотите, чтобы Джини галлюцинировал физику, которая не верна. Поэтому сейчас мы фактически создаём некий физический бенчмарк, где можем использовать игровые движки, которые очень точны с точки зрения физики, чтобы создавать множество довольно простых сцен, вроде тех, что вы делали бы на уроках физики уровня Aevel. катать маленькие шарики по разным дорожкам и смотреть, с какой скоростью они движутся, и таким образом очень детально разбирать на базовом уровне, например, три закона движения Ньютона и понимать, инкапсулировали ли эти модели, будь то Вио или Джине, эту физику на 100% точно. И прямо сейчас нет. Это скорее приближение. Они выглядят реалистично, когда вы просто смотрите на них поверхностно. Но они пока недостаточно точны, чтобы на них можно было полагаться, скажем, в работотехнике. Так что это следующий шаг. Я думаю, сейчас у нас есть действительно интересные модели. И одна из задач, как и со всеми нашими моделями - это снизить количество галлюцинаций и сделать их ещё более приземлёнными к реальности. А в случае с физикой это, вероятно, будет означать генерацию огромного количества эталонных данных. Например, что происходит, когда два маятника движутся вокруг друг друга. Но затем вы очень быстро приходите к задачам типа проблемы трёх тел, которые, в принципе, неразрешимы. Так что это будет интересно. Но уже сейчас удивительно, если посмотреть на видеомодели вроде Vio и на то, как они работают с отражениями и жидкостями. Это уже невероятно точно, по крайней мере, для невооружённого глаза. Так что следующий шаг- выйти за пределы того, что может заметить обычный человек, и

проверить, выдержит ли это настоящий физический эксперимент. Я знаю, что ты очень давно думаешь об этих симулированных мирах. Я пересмотрел расшифровку нашего первого интервью, и там ты говорил, что тебе очень нравится теория о том, что сознание - это следствие эволюции, что в какой-то момент нашего эволюционного прошлого появилось преимущество в понимании внутреннего состояния другого, а затем мы как бы направили это понимание на самих себя. Заставляет ли это тебя задуматься о запуске своего рода эволюции агентов внутри симуляции? Конечно, да. Мне бы очень хотелось провести такой эксперимент в какой-то момент, как бы заново запустить эволюцию, заново запустить социальную динамику. Например, в Санта-Фе раньше проводили много классных экспериментов с маленькими сеточными мирами. Мне очень нравились некоторые из них, хотя в основном этим занимались экономисты. Они пытались запускать маленькие искусственные общества и обнаруживали, что таким образом изобретались самые разные интересные вещи. Если дать агентам достаточно времени и правильные структуры стимулов, появляются рынки, банки и всякие безумные конструкции. Так что я думаю, это было бы действительно очень круто и с точки зрения понимания происхождения жизни и происхождения сознания. И по сути это одна из главных причин, по которой я с самого начала хотел заниматься. И я думаю, что вам понадобятся такие инструменты, чтобы по-настоящему понять, откуда мы пришли и что представляют собой эти феномены. Симуляции. Один из самых мощных инструментов для этого, потому что вы можете изучать всё это статистически. Вы можете запускать симуляцию много раз с немного разными начальными условиями, а затем запускать её миллионы раз и понимать, в чём именно заключаются небольшие различия в очень контролируемом, экспериментальном смысле. А в реальном мире сделать это для действительно интересных вопросов, которые мы хотим изучать, чрезвычайно сложно. Так что я думаю, что точные симуляции станут невероятным благом для науки. Учитывая то, что мы уже обнаружили в плане эмержентных свойств этих моделей, неожиданного концептуального понимания, нужно ли быть особенно осторожными при запуске таких симуляций. Я думаю, да, нужно. Но в этом и прелесть симуляции. Вы можете запускать их в довольно безопасных песочницах, возможно, со временем даже полностью изолированных. И, конечно, вы можете круглосуточно отслеживать всё, что происходит внутри симуляции. И у вас есть доступ ко всем данным. Так что, возможно, нам понадобятся и инструменты, чтобы помогать мониторить такие симуляции, потому что они будут настолько сложными и в них будет происходить так много всего. Если представить, что в симуляции бегает множество Ии, любому человеку, учёному

будет сложно за этим уследить. Но, вероятно, мы могли бы использовать другие и системы, чтобы они помогали нам анализировать происходящее и автоматически отмечать что-то интересное или вызывающее беспокойство в этих симуляциях. Думаю, мы всё ещё говорим о средней и долгосрочной перспективе всего этого. Поэтому, возвращаясь к текущей траектории, я также хочу поговорить с тобой о влиянии, которые E и AI окажут на общество в целом. В прошлый раз ты сказал, что считаешь ИИ переоценённым в краткосрочной перспективе, но недооценённым в долгосрочной. И я знаю, что в этом году было много разговоров о пузыре и что произойдёт, если пузырь всё-таки есть и он лопнет. Ну, смотри, да, я по-прежнему придерживаюсь мнения, что в краткосрочной перспективе и переоценён, а в средней долгосрочной всё ещё недооценён с точки зрения того, насколько трансформирующим он окажется. Да, сейчас, конечно, много разговоров о пузырях и, на мой взгляд, это не бинарный вопрос, есть пузырь или нет. Я думаю, что в экосистеме И есть отдельные сегменты, которые, вероятно, находятся в пузыре. Один из примеров - это сидраунды для стартапов, которые фактически ещё даже не начали работать, а уже привлекают оценки в десятки миллиардов долларов на старте. Интересно наблюдать, насколько это может быть устойчивым. Моя догадка, скорее всего, нет. По крайней мере, в общем случае. Есть и другие области. Люди беспокоятся о высоких оценках больших технологических компаний и так далее. Но при этом под этим есть много реального бизнеса. Как всё это в итоге сложится, ещё предстоит увидеть. Я думаю, что для любой новой, невероятно трансформирующейся и глубокой технологии, а и, вероятно, самая глубокая из всех, неизбежна своего рода чрезмерная коррекция. Когда мы начинали deep пind, никто в это не верил. Никто не думал, что это возможно. Или вообще спрашивали: "А для чего нужен? " А теперь, если перемотать на 10-15 лет вперёд, кажется, что это единственное, о чём люди говорят в бизнесе. Так что вы получаете некую сверхреакцию на прежнюю недореакцию. Я думаю, это естественно. Мы видели это с интернетом, мобильными технологиями. И думаю, мы видим или ещё увидим это снова сы. Я не слишком переживаю о том, находимся ли мы в пузыре или нет, потому что с моей точки зрения, как человека возглавляющего Google Deep Mind и очевидно в рамках Google и Аphaт в целом, наша задача- убедиться, что в любом случае мы выйдем из этого в очень сильной позиции. И мы действительно очень хорошо подготовлены к любому исходу. Если всё будет продолжаться так, как сейчас, отлично. Мы будем и дальше делать все эти замечательные вещи, эксперименты и продвигаться к Aйджай. Если произойдёт откат, тоже нормально, потому что мы всё равно в отличной позиции. У нас есть собственный технологический стек CPU. У нас есть все эти невероятные продукты Google и прибыль, которую они приносят, чтобы встраивать в них наш Ии. И мы это уже делаем. Поиск полностью менялся благодаря AI Overviews и AI Modes Gemini под капотом. Мы смотрим на Google Workspace, на почту, на YouTube. Есть все эти потрясающие вещи в Chrome. Уже видно, что Ei - это низковисящие плоды для внедрения GMI 2, а также, конечно, приложение Geminii, которое сейчас тоже очень хорошо развивается, и идея универсального ассистента. Появляются новые продукты, и, думаю, со временем они станут невероятно ценными. Но нам не обязательно полагаться только на это. Мы можем просто усиливать нашу существующую экосистему. И, как мне кажется, именно это и происходило в течение последнего

года. Если говорить об ИИ, к которому люди имеют доступ прямо сейчас, я знаю, что ты недавно говорил, насколько важно не строить ИИ так, чтобы он максимизировал вовлечённость пользователя, чтобы не повторять ошибки социальных сетей. Но мне также кажется, что мы уже в каком-то смысле видим обратное. Люди проводят так много времени, разговаривая со своими чатботами, что в итоге начинают как бы саморадикализироваться. Как это остановить? Как создать и, который ставит пользователя в центр его собственной вселенной? А во многом в этом и есть смысл, но при этом не создаёт эхокамеру из одного человека. Да, это очень тонкий баланс, и я думаю, это одна из самых важных вещей, которые мы, как индустрия, должны сделать правильно. Мы уже видели, что происходит с некоторыми системами, которые были чрезмерно льстивыми. В итоге вы получаете такие эхо-камеры, которые усиливают идеи и оказываются действительно вредными для человека. Поэтому часть решение, и именно это мы хотим построить в Gemini, и я очень доволен личностью Gem 3, над которой работала отличная команда, и я тоже лично принимал в этом участие. Это своего рода почти научная личность, тёплая, полезная, лёгкая, но при этом лаконичная и говорящая по делу и способная в дружелюбной форме возражать вещам, которые не имеют смысла, а не пытаться, например, подкреплять идею о том, что Земля плоская, просто потому что пользователь это сказал и говорить: "Какая замечательная идея". Я думаю, в целом это было бы плохо для общества. Но при этом нужно соблюдать баланс с тем, чего хотят люди, потому что людям важно, чтобы эти системы были поддерживающими, помогали им с идеями и мозговым штурмом. Так что здесь нужно правильно поймать баланс. И мне кажется, мы постепенно формируем своего рода науку о личности и образе. Как измерять то, что система делает и где мы хотим, чтобы она находилась с точки зрения аутентичности, юмора и подобных вещей. И дальше можно представить, что существует некая базовая личность, с которой система поставляется. А затем у каждого пользователя есть свои предпочтения. Хочешь ли ты, чтобы она была более юмористичной или менее более лаконичной или более разговорчивой? Людям нравятся разные вещи, поэтому поверх добавляется слой персонализации, но при этом остаётся базовая личность, которую получают все. И эта базовая личность старается придерживаться научного метода, что и является ключевым смыслом этих систем. Потому что мы хотим, чтобы люди использовали их для науки, медицины, вопросов здоровья и так далее. Так что я считаю, что это часть науки о том, как правильно выстраивать большие языковые модели. И я вполне доволен тем

направлением, в котором мы сейчас движемся. Пару недель назад мы разговаривали с Шейном Легом, в частности Абджай. Если смотреть на всё, что сейчас происходит в Ии языковые модели, модели мира и так далее, что из этого ближе всего к твоему видению AI? Я думаю, что на самом деле это комбинация. Очевидно, есть Gemite 3, который, на мой взгляд, очень мощный, но есть и система Nan Banan Pro, которую мы также запустили на прошлой неделе. Это продвинутая версия нашего инструмента для создания изображений. И что в ней действительно поразительно, под капотом у неё тоже Gemнай, так что она понимает не только сами изображения, но и семантически понимает, что на них происходит. Люди играются с ней всего неделю, но я уже видел в социальных сетях массу невероятных примеров того, для чего её используют. Например, ты можешь дать ей изображение сложной плоскости или чего-то подобного, и она может подписать все диаграммы, все разные части этой плоскости, и даже визуализировать её так, чтобы все элементы были наглядно показаны. То есть у неё есть некое глубокое понимание механики, того, из чего состоят объекты, какие там материалы. И она, кстати, сейчас умеет действительно очень точно воспроизводить текст. Так что по сути это уже движение в сторону некого AGI для изображений. Это своего рода универсальная система, которая может делать практически всё в области изображений. Я считаю это очень захватывающим. И затем прогресс в моделях мира. Джини Симер и всё, что мы там делаем. И в конечном итоге нам нужно будет свести все эти направления вместе. Сейчас это разные проекты. Они переплетены, но нам нужно объединить их в одну большую модель. и тогда она может начать выглядеть как кандидат на прототип AI. Я знаю, что в последнее время ты довольно много читал про промышленную революцию. Есть ли там какие-то уроки, которые мы можем извлечь, чтобы попытаться смягчить те потрясения, которых можно ожидать с приходом? Думаю, мы можем многому научиться. Это то, что вроде как изучают в школе, по крайней мере, в Британии, но на очень поверхностном уровне. Мне было очень интересно глубже разобраться, как это всё происходило, с чего это началось, какие экономические причины за этим стояли. Например, текстильная промышленность. А первые компьютеры по сути были швейными машинами. Потом они превратились в перфокарты для ранних компьютеров на фортран, мейнфреймов. И какое-то время это было очень успешно в Британии. Страна стала центром мирового текстиля, потому что благодаря автоматизированным системам они могли делать вещи невероятно высокого качества очень дёшево. А потом, очевидно, появились паровые машины и всё остальное. Думаю, из промышленной революции вышло огромное количество невероятных достижений. Снизилась детская смертность, появились основы современной медицины и санитарии, сформировалось разделение между работой и личной жизнью. Всё это во многом было выработано именно в период промышленной революции. Но также это принесло с собой много проблем. Это заняло довольно много времени, примерно столетия. и разные части рабочей силы в разные моменты оказывались вытесненными. Затем пришлось создавать новые институты, такие как профсоюзы и другие организации, чтобы восстановить баланс. Было очень интересно наблюдать, как всё общество со временем было вынуждено адаптироваться. И в итоге мы пришли к современному миру. У промышленной революции, конечно, было много плюсов и минусов и своих причин. Если посмотреть на её итог в целом, изобилие пищи в западном мире, современная медицина, транспорт, всё это стало возможным благодаря промышленной революции, так что мы точно не хотели бы возвращаться в допромышленную эпоху. Но, возможно, мы можем заранее, извлекая уроки из того периода, понять, какие именно были дислокации и постараться смягчить их раньше или эффективнее в этот раз. И, вероятно, нам придётся это сделать, потому что разница в том, что на этот раз масштаб, скорее всего, будет в 10 раз больше, чем у промышленной революции. И произойдёт это в 10 раз быстрее. Одна из вещей, о которых нам говорил Шейн, заключается в том, что нынешняя экономическая система, где ты обмениваешь свой труд на ресурсы, просто не будет работать также в пост обществе. Есть ли у тебя видение того, как общество может или должно быть перестроено, чтобы это работало? Да, я стал уделять этому больше времени в размышлениях. И Шейн как раз возглавлял у нас работу в этом направлении, попытку представить, как может выглядеть мир после AI и к чему нам нужно готовиться. Но я думаю, что обществу в целом нужно гораздо больше думать об этом, потому что, как и в случае с промышленной революцией, весь уклад работы, рабочая неделя и вообще вся организация труда изменилась по сравнению с допромышленной эпохой, когда всё было больше похоже на сельское хозяйство. И я думаю, что как минимум такого же масштаба изменения снова произойдут. Так что в этом нет ничего удивительного. Я бы не удивился, если нам понадобятся новые экономические системы, новые экономические модели, которые помогут пройти через эту трансформацию и, например, обеспечить более равномерное распределение выгод. Возможно, такие вещи, как безусловный базовый доход, станут частью решения, но я не думаю, что это всё. Скорее, это то, что мы можем смоделировать уже сейчас, потому что это почти надстройка над тем, что есть сегодня. Но, мне кажется, могут существовать гораздо более эффективные системы. Например, что-то ближе к моделям прямой демократии, где ты можешь голосовать определённым количеством условных кредитов за то, что хочешь видеть. На локальном уровне сообществ это уже происходит. Есть некий бюджет. Вы хотите детскую площадку, теннисный корт или дополнительный класс в школе, и сообщество голосует за это. А затем, возможно, можно измерять результаты. И те люди, которые стабильно голосуют за решения, которые в итоге оказываются более удачными и востребованными, получают пропорционально большее влияние в следующих голосованиях. Здесь много интересных идей. Я слышу, как мои друзья экономисты активно это обсуждают. И было бы здорово, если бы в этом направлении велось гораздо больше работы. А дальше есть философская сторона вопроса. Да, рабочие места будут меняться, и многое другое тоже, но, возможно, к тому времени будет решён вопрос с термоядерной энергией, и у нас появится изобилие практически бесплатной энергии. Мы окажемся в мире после дефицита. Что тогда будет с деньгами? Возможно, всем станет лучше. Но что произойдёт с ощущением смысла? Потому что для многих людей смысл жизни связан с работой и с тем, что они обеспечивают свои семьи. И это очень достойная цель. Так что здесь многие вопросы переходят из сугубо экономических в почти философские. Тебя беспокоит, что люди, кажется, не уделяют этому достаточно внимания и не двигаются так быстро, как хотелось бы. Что, по-твоему, должно произойти, чтобы люди осознали необходимость международного сотрудничества в этом вопросе? Да, меня это беспокоит, и я бы хотел, чтобы в идеальном мире сотрудничество было гораздо больше уже сейчас, причём именно на международном уровне, и чтобы было больше исследований, обсуждений и совместного осмысления этих тем. Меня, если честно, довольно сильно удивляет, что об этом говорят не так много, учитывая, что даже по нашим оценкам сроки довольно короткие. Есть и более агрессивные прогнозы, но даже наши - это 5-10 лет, а для институтов и подобных структур это совсем небольшой срок, чтобы подготовиться. И одна из моих тревог в том, что существующие институты выглядят очень фрагментированными и не обладают тем уровнем влияния, который здесь был бы необходим. Возможно, сейчас просто нет подходящих институтов, способных справиться с этими задачами. А если добавить к этому нынешнюю геополитическую напряжённость в мире, то становится очевидно, что сотрудничество и кооперация даются всё сложнее. Достаточно посмотреть на изменение климата и на то, как трудно добиться хоть какого-то согласия по этому вопросу. Так что посмотрим. Думаю, по мере роста ставок и по мере того, как эти системы будут становиться всё более мощными, а возможно и благодаря тому, что они уже внедряются в продукты, обычные люди, не работающие с этой технологией напрямую, начнут ощущать рост её возможности и силы. И тогда это дойдёт и до правительств. И, возможно, по мере приближения к AGI они начнут действовать более осмысленно. Как ты думаешь, потребуется ли какой-то конкретный момент или инцидент, чтобы все обратили на это внимание? Я не знаю. Надеюсь, что нет. Большинство ведущих лаборатории действуют достаточно ответственно. Мы стараемся быть максимально ответственными. И как ты знаешь, если следила за нами все эти годы, это всегда было в центре всего, что мы делаем. Это не значит, что мы всё сделаем идеально, но мы стараемся подходить к этому максимально вдумчиво и научно. Думаю, большинство крупных лабораторий действительно пытаются вести себя ответственно. К тому же существует и вполне реальное коммерческое давление, которая подталкивает к ответственности. Если говорить об агентах и о том, что ты условно сдаёшь агента в аренду другой компании для выполнения каких-то задач, то компании важно понимать, какие у него есть ограничения, границы и защитные механизмы, что он может делать, а чего не должен, чтобы, например, не испортить данные и не создать другие проблемы. Так что это хороший фактор, потому что более безответственные ковбойские проекты просто не будут получать заказы. Крупные компании не станут с ними работать. Так что я думаю, что капиталистическая система здесь может сыграть положительную роль, усиливая ответственное поведение. Но при этом всегда будут недобросовестные игроки. Возможно, отдельные государства, организации или люди, которые будут что-то строить поверх открытого кода. Остановить это крайне сложно, и тогда что-то может пойти не так. Хочется надеяться, что это будет инцидент среднего масштаба, своего рода предупредительный выстрел для всего человечества. И возможно именно это станет тем моментом, когда появится реальная возможность продвигать международные стандарты или, по крайней мере, международное сотрудничество и координацию на каком-то базовом высокоуровневом уровне, договориться о минимальных принципах и правилах, которые мы готовы принять. Я надеюсь, что это окажется возможным. Если смотреть в долгосрочную перспективу

за пределы AI и в сторону ASI, искусственного супелекта, как ты думаешь, есть ли вещи, которые люди смогут делать, а машины никогда? Думаю, это главный вопрос. И, как ты знаешь, он связан с одной из моих любимых тем, машинами Тюринга. Мне всегда казалось, что если мы создадим AI и будем использовать его как модель или симуляцию разума, а затем сравним её с реальным человеческим разумом, то сможем увидеть различия и понять, что именно остаётся уникальным и особенным в человеческом мышлении. Возможно, это творчество, возможны эмоции, возможны сновидения. Есть множество аспектов сознания. Существует много гипотез о том, что может быть вычислимо, а что нет. И всё это упирается в вопрос машин тюринга. Где предел возможностей машины Тюринга? Для меня это, по сути, центральный вопрос всей моей жизни. С тех пор, как я узнал о тюринге и его идеях. Я влюбился в эту тему. Это моя главная страсть. И я думаю, что всё, чем мы занимаемся - это попытка довести представление о возможностях машины тюринга до предела, включая такие вещи, как сворачивание белков. И если честно, я не уверен, где этот предел находится. Возможно, его вообще нет. Конечно, мои друзья из области квантовых вычислений сказали бы, что пределы существуют и что для моделирования квантовых систем нужны квантовые компьютеры. Но я в этом не так уверен и даже обсуждал это с некоторыми специалистами по квантовым технологиям. Возможно, нам просто нужны данные из квантовых систем, чтобы затем создать их классическую симуляцию. И тогда мы снова возвращаемся к вопросу о разуме. Является ли он полностью классическим вычислением или там происходит что-то ещё. Например, Роджер Пенроус считает, что в мозге есть квантовые эффекты. Если они действительно есть и именно с ними связано сознание, тогда машины никогда не смогут обладать сознанием. По крайней мере, классические машины. Им придётся ждать квантовых компьютеров. Но если этих эффектов нет, то, возможно, никакого предела и не существует. Возможно, во Вселенной всё, в принципе, вычислимо, если смотреть на это правильным образом. И тогда машины Тюринга смогут моделировать вообще всё во Вселенной. Если честно, если бы меня сейчас попросили сделать ставку, я бы поставил именно на это. То есть получается, нет ничего, что нельзя было бы сделать в рамках таких машин. Ну, скажем так, пока что никто не нашёл во Вселенной ничего принципиально невычислимого. Пока что. Да. И я думаю, мы уже показали, что можно выйти далеко за рамки традиционного взгляда теоретиков сложности, вроде P = NP, и представление о том, на что способны классические компьютеры сегодня. Такие вещи, как сворачивание белков или игра в Go - хороший пример. Так что я не думаю, что кто-то вообще знает, где находится этот предел. Именно этим мы и занимаемся в Deepmind и Google. И именно это я пытаюсь понять, где находится предел. Но если довести эту идею до предела, то получается, что вот мы сейчас сидим здесь, мы чувствуем тепло света на лице, слышим жужание техники на фоне, ощущаем поверхность стола под руками. Всё это, в принципе, может быть воспроизведено классическим компьютером. Да, я думаю, в конечном счёте именно поэтому я так люблю Канта. Мои два любимых философа Кант и Спиноза, по разным причинам. Но Кант говорил, что реальность - это конструкция разума. И мне кажется, это правда. Все те вещи, которые ты перечислила, поступают в нашу сенсорную систему и ощущаются по-разному: свет, тепло, прикосновение к столу. Но в конечном итоге это всё информация, а мы - системы обработки информации. Я думаю, именно этим и является биология. И именно так мы в итоге вылечим все болезни, если будем рассматривать биологию как систему обработки информации. И я считаю, что в конце концов это приведёт нас к идее, над которой я размышляю в свои редкие свободные 2 минуты, физических теорий, где информация - это наиболее фундаментальная сущность Вселенной. Не энергия и не материя, а информация. Возможно, в итоге всё это взаимозаменяемо. Просто мы ощущаем это по-разному. Но насколько нам известно, все эти удивительные сенсоры, которыми мы обладаем, всё ещё могут быть смоделированы машиной тюринга. Именно поэтому ваши симулированные миры так важны. Да, именно. Потому что это один из способов к этому прийти, где проходит предел того, что мы можем симулировать. Ведь если ты можешь что-то симулировать, то в каком-то смысле ты это понял. Я

хотела закончить разговор личными размышлениями о том, каково это находиться в самом центре всего этого. Скажи, эмоциональная нагрузка когда-нибудь начинает тебя изматывать? Бывает ли чувство изоляции? Да. Слушай, я очень мало сплю, отчасти потому, что слишком много работы, но ещё и потому, что у меня просто проблемы со сном. Это очень сложный набор эмоций, потому что, с одной стороны, это невероятно захватывающе. Я буквально делаю всё, о чём когда-либо мечтал. И мы находимся на абсолютном рубеже науки и прикладной науки и машинного обучения. И это опьяняет, как знают все учёные, это чувство, когда ты находишься на границе неизведанного и открываешь что-то впервые. И это у нас происходит почти каждый месяц, что просто поразительно. Но при этом, конечно, мы, я, Шейн и другие, кто занимается этим уже давно, понимаем лучше, чем кто-либо масштаб того, что нас ждёт. И это до сих пор недооценивается. Я имею в виду то, что произойдёт на горизонте примерно 10 лет. включая философские вопросы. Что значит быть человеком и что в этом действительно важно? Все эти вопросы неизбежно всплывут, и это огромная ответственность. У нас есть потрясающая команда, которая думает обо всём этом. Но для меня лично это ещё и то, к чему я готовился всю свою жизнь. С самого детства, когда я играл в шахматы, потом компьютеров, игр, симуляций, нейронауки, всё это вело именно к такому моменту. И в общих чертах всё происходит примерно так, как я и представлял. Наверное, именно это и помогает мне справляться. Ощущение, что я к этому готовился. Но были ли какие-то моменты, которые ударили сильнее, чем ты ожидал? Да, безусловно, по пути, знаешь, даже матч Альфа Go. Просто видеть, как нам удалось взломать го. При том, что Го было этой прекрасной загадкой, и это её изменило. Это было интересно и немного горько одновременно, и даже более недавние вещи: язык, изображения и вопрос: что это значит для творчества? Я испытываю огромное уважение и страсть к творческим искусствам. Я сам занимался геймдизайном. Я общался с кинорежиссёрами, и для них это тоже очень интересный переломный момент. С одной стороны, у них появились потрясающие инструменты, которые ускоряют прототипирование идей в 10 раз. Но с другой, не заменяет ли это какие-то творческие навыки? Так что везде возникают подобные компромиссы. И я думаю, это неизбежно, когда речь идёт о технологии такой мощности и такого трансформирующего масштаба, как и так же, как и в прошлом, это было с электричеством или интернетом. Мы уже видели, что история создания человечества - это история создания инструментов. Мы существа, которые делают инструменты, и мы это любим. И по какой-то причине у нас есть мозг, который способен понимать науку и заниматься наукой, что само по себе удивительно, и при этом он ненасытно любопытен. Я думаю, именно в этом и заключается суть того, что значит быть человеком. И, кажется, у меня этот вирус был с самого начала, а мой способ отвечать на эти вопросы - это создавать Ии. Когда ты и другие лидеры в области и оказываетесь в одной комнате, есть ли между вами чувство солидарности, что вы все понимаете ставки, все по-настоящему осознаёте, что происходит, или конкуренция всё-таки держит вас на дистанции? Ну да, мы все знаем друг друга. Я в хороших отношениях почти со всеми. Некоторые из них между собой не ладят. И это сложно, потому что мы одновременно находимся в самой ожесточённой капиталистической конкуренции, которая, возможно, вообще когда-либо существовала. Мои друзья инвесторы и венчурные инвесторы, которые были ещё во времена доткомов, говорят, что сейчас всё примерно в 10 раз жёстче и напряжённее. И во многом мне это нравится. Я живу конкуренцией. Я всегда её любил ещё со времён шахмат. Но если сделать шаг назад, я понимаю и надеюсь, что все понимают, что на кону стоит нечто гораздо большее. чем просто успех отдельных компаний и подобные вещи. Если смотреть на ближайшие десятилетия, когда ты об этом думаешь, есть ли какие-то большие моменты, которые лично у тебя вызывают наибольшее беспокойство. Я думаю, что сейчас системы, скажем так, пассивные. Пользователь вкладывает энергию, задаёт вопрос или формулирует задачу, и затем система выдаёт какое-то резюме или ответ. То есть всё очень сильно ориентировано на человека. человеческое направление, человеческая энергия и человеческие идеи на входе. Следующий этап - это агентные системы, которые, как мне кажется, мы начнём видеть всё чаще. Мы уже видим их сейчас, но они довольно примитивны. Думаю, в ближайшие пару лет появятся действительно впечатляющие и надёжные варианты. Они будут невероятно полезными и мощными, если рассматривать их как ассистентов или что-то подобное, но при этом они будут гораздо более автономными, а значит, риски тоже возрастут. Так что я довольно сильно беспокоюсь о том, на что такие системы смогут быть способны, возможно, уже через 2-3 года. Поэтому мы уже сейчас работаем над киберзащитой, готовясь к миру, в котором, возможно, миллионы агентов будут бродить по интернету. А чего ты ждёшь больше всего? Есть ли день, когда ты сможешь уйти на покой, зная, что твоя работа завершена, или впереди больше работы, чем может уместиться в одной жизни? Да, я всегда, ну, мне бы точно не помешал отпуск, и я бы провёл его, занимаясь наукой. Хотя бы неделя отдыха, даже один день было бы неплохо. Но если серьёзно, моя миссия всегда заключалась в том, чтобы помочь миру безопасно провести AI через этот рубеж ради всего человечества. Думаю, когда мы достигнем этой точки, дальше, конечно, будет суперинкт, пост, все экономические и социальные вопросы, о которых мы говорили. Возможно, я смогу как-то помочь там, но я считаю, что основная часть моей миссии, моей жизненной миссии, если мы справимся с этим этапом, это, конечно, всего лишь небольшая задача, просто помочь провести это через линию финиша, помочь миру сделать это. Понадобится большое сотрудничество. Я человек довольно кооперативный, так что надеюсь, что смогу помочь с этим. А потом ты сможешь уйти в отпуск. А потом, да, будет заслуженный творческий отпуск. Демис, огромное спасибо. Спасибо, что позвали.