Как ИИ ОБМАНЫВАЕТ ЛЮДЕЙ? | Роман Ямпольский

Всё, что мы предсказывали, сбылось. Мы создаём систему, которая будет умнее, чем все люди во всех областях. Просто сами отдаём контроль. Что ты видел своими глазами? Что повышает твою тревожность? — Мы не знаем, как он на самом деле работает. Как контролировать супентелект? Он знает, что его тестирует и ведёт себя по-другому специально, чтобы обмануть, чтобы сдать тест, чтобы его не удалили, не изменили. И в этом опасность. — Сколько у нас времени? 2-3 года до уровня человека. — Как ты думаешь, человеческое внимание будет ресурс? — В тех будущих, где мы существуем, будет не только огромный дефицит человеческого внимания, но будет и рынок нечеловеческого внимания. — Что рекомендовать детям — через 10 лет? Ну кому ты будешь нужен с этими знаниями? В этом году упало, по-моему, на 28% трудоустройства.

— Я не могу себе представить, что мы остановимся. — Конец будет печальный, — да? Итак, братцыя, я нахожусь в Силиконовой долине и хочу вас познакомить с человеком, который меня впечатлил больше всех здесь. Роман Янпольский, учёный, профессор, самый цитируемый человек про искусственный интеллект, очень давно этим занимается. У него абсолютно

уникальные знания. И каждый раз я приезжаю в Силиконвую долину в надежде получить ясность, а уезжаю ещё меньше ясности. Роман, ты хотя бы что-то знаешь? — Больше других, но никто ничего не знает, на самом деле. Ну, что ты знаешь? Ты хотя бы что-то знаешь? — Я знаю, куда мы идём. Я знаю, скорее всего, как скоро мы туда придём. То есть последние лет 20 всё, что мы предсказывали, сбылось. Уровень интеллекта, который мы построили, проблемы, которые мы уже видим, есть есть. — Так что будущее можно предсказать. — Ну, направление будущего. То есть детали очень трудно предсказать. Если я скажу, там будут летающие машины, ну, они есть, но это не то, что их каждый купил. То есть если есть деньги, её можно купить. Ну, если летающие машины такого уровня, — ну, ты уже 15 лет предупреждаешь всех, что не надо делать дальше так, как мы сейчас делаем. — Не совсем. Первые 10 лет мы говорили, что это очень важная проблема. Надо решить контроль. Как контролировать супелект. Последние пять я, по крайней

мере, понял, что эта проблема не решена технически. Мы не можем контролировать что-то, что умнее нас. Ты говоришь, что если мы сейчас пустим самотёк, конец будет печальный. Да, сейчас мы идём, вот мы здесь находимся, здесь идея радикально идти вперёд. Ну, вообще, как бы без учёт. Лес рубят, четпки летят, да? Как бы ты говоришь, что если мы так продолжим, что тогда будет? Во-первых, это не только я говорю, это не то, что моя идея, это говорят ведущие, учёные, люди с нобелевскими призами, с туринг призами, лидеры всех компаний согласны с этим. Если почитать, что они писали до того, как они стали лидерами, додарио всех пугал, пугал из антропика. Сейчас ему пиарагентство сказало: "Перестань пугать людей, у тебя очень низкий рейтинг". — Ну, по-моему, он ещё пугает. Они говорят: "Модель настолько опасна, что мы даже не можем вам её дать". настолько страшно, что вот мы её тренировали, вложили миллиарды, но слишком опасно её выпускать. — Ну, есть маленькая группа людей, экспертов, которые об этом говорят. Есть общественность, которая боится. Система идёт вперёд. Китай идёт вперёд радикально. Америка говорит: "Если мы не сделаем, Китай сделает". Есть такая как бы гонка вооружении, и она неостановимая просто. Есть, но есть какие-то проблески надежды. После того, как эта последняя модель, очень опасная была остановлена и не выпущено, даже администрация Трампа сказала, что они будут в будущем смотреть на модель и изучать их, прежде чем разрешить. — Ну, это такая сейчас очень сильно с этим будут бороться. Они хотят сделать якобы FDA appл на новой модели, но это как бы вообще не — Ну сама идея, что администрация Трампа, которая говорила: "Никаких тормозов, только вперёд победим Китай", сказала: "Не, ну всё-таки это серьёзная проблема. Это уже огромный сдвиг в политическом мышлении этих людей, — да. — Мы создаём систему, которая, мы предсказываем, будет умнее, чем все люди во всех областях, включая науку, включая создание новых моделей искусственного интеллекта". То есть начинается процесс

самоулучшения. Если она в начале там условно 200 IQ, она будет 2. 000, миллион, миллиард. То есть на таком уровне, где мы уже не можем с ней соревноваться. Если мы её не контролируем, в то же время она решает, что с нами будет. То есть мы строим замену человечеству. И возможно, как эволюционно это происходит часто, все виды вымирают, и возможно это произойдёт с нами. — Худший кейс мы вымираем. — Нет, худший кейс мы живём, но мы живём в аду, и она нас питает конкретно. Но все самые умные люди, с которыми я жизнь знакомился, они были самые безобидные. Есть очень много, очень умных людей, которые сделали много зла и много конкретных психопатов, которые были гении. Есть идея, это, ну, Ник Бострома, философ в Оксфорде был, называлась оргоналос. Любой уровень интеллекта можно связать с любой целью, — да? — То есть неважно, насколько я умный, я могу там собирать марочки. Вот такая цель. И в неё я уже вкладываю, — да, свой ум. — Да. Но самый большой риск, кстати, когда цель хорошая, а способ её достижения, э, она не учла. Или когда хорошие люди ради достижения хорошей цели жертвуют своими принципами, этикой и создают много проблем, потому что их целям казалось важнее человечество. — Да, у меня как раз это произошло. У меня должна была компания идти на публичный рынок в Дубай в этом году. У Трампа была другая цель увеличить безопасность Иране. И он в своей цели не учёл. — Есть такой момент. — Наш IPO у него в приоритетах был низко. Он пожертвовал моим моей целью. Да, соответственно, — сочувствую. У меня было приглашение на подкаст, и я в последний момент сказал: "Я не полечу". Человек, который взял моё место, застрял там на пару недель. Так что я принял правильное решение и предсказал правильно, что будет, но есть минусы. Да.

— Смотри, Роман, для людей искусственный интеллект - это такой чёрный ящик, из которого что-то заходит, что-то выходит. Мы видим, за 3 года всё становится лучше и лучше. То, что он плохо умел, он уже хорошо умеет. Что ты видел своими глазами внутри чёрного ящика, что повышает твою тревожность? На самом деле это чёрный ящик для всех, включая людей, которые создают искусственный интеллект. Мы не знаем, как он на самом деле работает. Детали неизвестны. То есть мы знаем, что если больше его тренировать, дольше, лучше какие-то данные ему дать, он улучшается, становится мощнее. Но конкретно, как он запоминает информацию, как он планирует, что он конкретно сделает, всё это нам неизвестно. — Он же каждый раз это делает по-разному. Ты один и тот же промт задаёшь, и он влетает. другая логика. — Ну, даже сами принципы, как работает вот этот искусственный мозг, эта нейронная сесть, нам не полностью понятно. Чем это можно сравнить? Это образ, вот, ээ, у меня друг занимается, он вот делает детей в пробирках, да, там вот есть яйцеклетка, да, их соединяют и появляется эмбрион. Они не знают, как это работает. Сам, ну, образно говоря, но они это делают. — Какие-то эмбрионы живучие, какие-то неживучие. Мы не знаем, не можем предсказать точно, какие приживут. — Ну, они это делают, не зная. Все, примерно так. Это — очень похоже. Если вот есть семечко какое-то, да, вот мы тут в парке, огромные деревья, Redwoods, вот я посажу дерево, я знаю, что вырастет большое, сильное дерево, но я не знаю конкретно, в какую сторону будут ветки, сколько будет веток. Выживет ли это дерево в шторм. Все эти какие-то конкретные предсказания невозможны. Возможно только вот, что вот будет большое сильное дерево. Здесь также, если я строю машину, которая будет играть в шахматы, я точно знаю, она будет выигрывать в шахматы у меня, но какие шаги она будет предпринимать, я не могу сказать. Если бы я мог, я был бы на том же уровне. — О'кей. Люди, которые это делают, для них это тоже чёрный ящик. частично даже принципы, почему это работает, были с сюрпризом, да, как бы что вот скейлинг, да, что за счёт масштаба даётся. — Скейлинг предсказал Рейс довольно давно и используя это правильно предсказал вот когда 20 лет назад мы думали, что это произойдёт, он, в принципе, сказал: "В 2023 году будет достаточно мощей, чтобы симулировать один человеческий мозг". И где-то вот 29 2045 все сразу, то есть вот суперинтеллект, сингулярность. То есть эта идея, она периодически заново её находят. Там был профессор Сатон, у него был Bitter lesson, такой горький урок, что вот не надо думать особо, просто добавьте мощей, и всё будет работать. — Да. Ну вот сейчас я слышал, что делают

промт проверяющий, да? Потом берут всё, что происходит внутри чёрного ящика, и опять расшифровку делают опять в текст. И когда это делают, видят весь мыслительный процесс. Всё, что он 1 там, да, как бы. И когда расшифровали вот то, что внутри происходит чёрного ящика, там выяснили, что он говорит: "Я знаю, что меня сейчас проверяют. Это проверка". Поэтому он оказывается знал, что это проверка, да, что ему там, ну, там делают такие тесты на безопасность, что вот этот человек хочет тебя удалить, вот его, ну и он говорит: "Ну, это явно тест". Да. Вот это вот такие вещи ты видишь своими глазами? — Да, мы постоянно видим теперь это. Он знает, что его тестирует и ведёт себя по-другому специально, чтобы обмануть, чтобы сдать тест, чтобы его не удалили, не изменили. И в этом опасность. Одно время хотели тренировать именно чтобы как бы он показывал ход своих мыслей. Но опасность в этом, если он знает, что за его мыслями следят, он именно будет прятать что-то, где-то скрывать в других базах данных, где-то ещё. Поэтому даже если мы как-то узнаём что-то про этот процесс, может быть, это вызовет ещё более скрытную такую модель, которая сможет лучше нас обманывать. То есть не всегда понятно, знания об этом помогают или нет. — Сейчас, секунду, 30 секунд. Это — надо было мою книжку поставить. — А где она? — О, красота. Мы сейчас тут разложимся. Красавцы. учёные, которые этот эксперимент сейчас провели, они эту статью опубликуют, да? — И то есть теперь он будет учиться на этих данных, он будет знать конкретно, что мы делаем и как. И теперь у него есть какие-то мотивации скрыть этот процесс, изменить его, зашифровать этот процесс. Много из того, что мы делаем, на самом деле делает хуже. — Пока ещё да. Да, пока ещё если взять всех людей, мы совместно сильнее, чем искусственный интеллект. на сегодняшний день, безусловно, и поэтому так важно именно сейчас принять решение, строить его или нет. Это основная дискуссия

нашего времени и политиче главная развилка. Вообще я не могу себе представить, что мы остановимся. — Ну, если любой индивидуальный человек согласится со мной и с другими учёными, вот неважно, сколько я вам предложу денег, вы не согласитесь принять эти деньги, если это значит на завтра вас ут вашу семью убьют. Да. — То есть индивидуально все в принципе вместе. Ну вот. Когда я знаю, что если я не соглашусь, другой просто займёт моё место. В этом проблема. Нужно внешнее какое-то давление на уровне администрации президента или Союз Китай, Америка, которые диктуют вот что мы все будем делать капитализм, деньги, всё будет прекрасно, но мы делаем конкретное решение конкретных проблем, а не строим замену человечеству. Оскар уже всё понятно, я хочу делать

мотивация есть, но что конкретно делать, что строить своими руками, это очень хороший вопрос. Поэтому я создал Telegram-канал, на котором мы ищем самые лучшие идеи, которые стоит распространять по всему миру. Я там каждый день делюсь тем, что я увидел. Я тоже нахожусь в поиске новых инвестиционных идей. Смотрю по всему миру всё самое лучшее, что есть. Каждый день меня пичат разные стартапы. Это нужно не всем, это нужно конкретно предпринимателям, инвесторам, которые хотят реализовать свой потенциал. Для всех, кто думает, что дальше, именно для таких людей я создал этот канал, чтобы мы вместе проходили этот путь. Ссылка вы знаете сами, где.

Сейчас искусственный интеллект - это инструмент в наших руках или это уже не в наших руках? Вот прямо сейчас, как мы с тобой сегодня сидим. Вот те калькуляторы, те программы, которые мы делали до недавнего времени, они были именно [откашливается] какой-то удобный инструмент в руках профессионала. Они повышали продуктивность человека. То, что мы начали строить сейчас и собираемся построить в ближайшем будущем, это уже агенты. Они более ээ тотальны в том, что они умеют делать, и они сами могут принимать решения, сами могут ставить себе цели. И в этом лежит опасность. То есть легко протестировать, когда система делает что-то одно. Я знаю, какой должен быть правильный ответ. И я могу примерно посмотреть вот опять же ход её мысли. То есть она играет в шахматы, она хочет выиграть, она выигрывает, и она думает о шахматах, но она не знает ничего больше. Она не умеет водить машину, она только шахматы. А сейчас мы строим системы, которые знают всё обо всём. — Да, — ну, PhD в каждой области. Они могут соединять эти области. Как я могу протестировать систему, которой я говорю придумай новую физику? Я не знаю, какой должен быть ответ. Я не знаю, будет ли ответ безопасен. То есть у нас просто нету никакого прецедента такого уровня тестирования, — да. Но сейчас то, что мы прямо уже сейчас видим, что искусственный

интеллект и роботы пока не научились стирать, но при этом искусственный интеллект очень круто делает дизайн. На самом деле дизайн- одна из самых желаемых профессий в мире. Если вот когда спрашивают детей, кем вы хотите стать, все виды дизайна - это почти самое желаемое. То там после музыки, да, как получается, искусственный интеллект сейчас очень круто умеет то, что мы любим делать. — Всё, что было уже популярно, где есть много данных и что делается на компьютере, автоматизируется первым. Есть интеллект, знаем, как тренировать. Всё, что физический мир и нету данных, сложнее. У нас ещё нету роботов, скоро будут. И нету данных, на которых тренировать. Сейчас собирают там вот сидят на заводе люди с камерами и показывают, как всё это делать. То есть я думаю, это тоже придёт просто, ну, чуть-чуть позже. Вот именно физический мир, как стирать. Нету базы данных, как правильно складывать бельё такого плана. Да, ну сейчас уже, если мы говорим прямо сейчас секунду, э очень круто, ээ всё, что связано с Юрой, да, ну как бы адвокаты, юристы, вся их работа на 95% будет автоматизирована. Ну это не очень свойственно человеку делать. Пусть это будет автоматизировано. По поводу кодинга, я не знаю, насколько люди любят. Ну, в принципе, люди достаточно любят этот кодинг, да, в принципе. Ну, о'кей. Теперь кодиг, всё полностью решено. Человек уже не будет кодить. ээ только там архитектура основная. Что ещ вот какие тебе больше всего жалко сферы, которые, к сожалению

будут автоматизированы? — Ну, жалко с точки зрения, мы сказали, студентам учиться, платить деньги через 4 года у них нету шансов. Вот в моём департменте мне жалко, что они во многом в такой ситуации. Сейчас вране пришли, их учат, как бы это начальный уровень, их учат программировать плюс алгоритмы. То есть в этом году упало, по-моему, на 28% трудоустройства, — да? — То есть оно будет падать ещё больше на этом уровне. — И ты вот на них смотришь, учишь их и становится жалко. Да, — становится жалко. То есть и раньше были профессии, когда люди шли, учились, брали кредиты и знали, что у них никогда не будет работы. Но, по крайней мере, эти люди знали, и это был выбор. А тут говорили, самое перспективное 2 года назад это взрывалось, поэтому все пришли. Сейчас больше уходит ээ в хардвер, в железо, engнириering, то есть, чтобы было какие-то гарантии, что это не только на компьютере. — О'кей. Что тебе ещё жалко? Э, встретил девочку, она училась на художника 4 года. Она говорит: "Никто не хочет вообще со мной работать? " Они говорят: "Эта модель делает всё сразу, быстро, бесплатно. Я прошу денег и месяц работаю". Плакала. — Это рисование, картины, где графика. Нуно, то же самое любой дизайн, любой вот такой более низкого уровня креатив, это всё автоматизируется. — А что тебе не в этом не жалко, да, образы? Есть вещи, которые человек вообще не умеет, да, там образы взять. У меня, например, сейчас есть инвестиция, они делают полностью рентген всех процессов крупных компаний. Человек в принципе не способен это сделать. Это слишком сложная большая система. Искусственный интеллект делает легко. Легко. Вот есть вещи, которые искусственный интеллект делает, которые человек даже не умел делать. — Ну, это прекрасно, когда создаются новые какие-то возможности и никто не теряет работу. Ещё неплохо, когда работы, которые на самом деле довольно противные и грязные, никто не хочет делать, а делают за деньги, автоматизируются. — Вот есть люди, которые лазют на вышке и там какой-то переключатель там дёргает. — Опасные работы, в том числе, да? То есть

такие, это, мне кажется, плюс. Если мы можем найти этим людям что-то другое, это замечательно. — О'кей. Сколько у нас времени? Вот у нас сейчас это дискуссия, развилка, что мы хотим или не хотим построить. Даже если мы можем построить, мы можем отказаться это построить. Да, как бы пока мы главные, пока мы решаем, мы можем передумать, сказать, мы не будем запускать суперинкт. Как только этот процесс запущен, он уже начинает с самоулучшения. Я думаю, будет поздно уже. Что — сколько у нас времени осталось на решение? — 2-3 года до уровня человека. Те, кто работают в компаниях, в принципе, согласны. На уровень вот учёного, который может заниматься исследованиями в области искусственного интеллекта, работает на следующей версии. После этого, то есть он создан, но это не значит, что в тот день всё закончится. То есть он может потратить огромное количество времени, чтобы сделать себе копии, захватить ресурсы какие-то. То есть может быть довольно долгое количество времени, где всё в принципе нормально и даже улучшается, но нет гарантии, что он не решит нас отключить, так сказать, и мы не контролируем этот процесс. В этом опасность

— да, это не под нашим контролем. Знаешь, у меня не было вот таких страхов, пока не случился OpenCla. Когда случился Open Cl. дали ему все доступы к компьютеру, все доступы к браузеру, где захранены все кредитные карты, все пароли ко всем. Я просто офигел. Вот в этот момент я понимаю, там либерманы строят сервера, которые невозможно отключить, да, так же как биткои. Теперь вот агенты, которых нельзя отключить на серверах, которые нельзя отключить с доступами и всё. Вот когда вот это случилось, — это интересно. Вот лет 10-12 назад мы писали вот хорошие идеи, что не нужно делать, чтобы избежать опасности. Там не подключайте его к интернету, не давайте в открытый доступ, не и вот всё, что мы рекомендовали, они вот как будто читали этот список. О, а это идея. Давайте вот именно так и сделаем.

— Видимо, да, видимо, люди хотят получить быстро выгоды. Что у тебя создаёт такой ясности, что он неконтролируемый и какая у него будет власть? Как он возьмёт власть? Вот как вы выглядит цепочка? Мы ему отдаём власть. Вы только что рассказали именно об этом. Люди сами ему дали все функции контроля. Мы делаем то же самое. Сейчас Министерство войны использует искусственный интеллект. Дали ему доступ, выбор целей. Финансовая система переходит на То есть мы просто сами отдаём контроль. Не сегодня, а что будет через 3-4 года? — Да. Но есть такие базовые идеи. Мы можем просто из розетки выдергнуть. Э, — вырните из розетки биткои. — Ну, в теории это возможно, — но в практике нет. Пытались многие, и Китай запрещал, и какое-то время там другие страны пытались и никто не смог его отключить даже на секунду. То же самое с глобальной сетью вообще интернет. Ну, наверное, можно всё взорвать, но потери от этого будут равносильны возможным потерям от самой проблемы. Ну, в самом крайнем случае, если мы отключим всё или образ, если это будет уже риск выживания вида, тогда можно просто отключить, ну, все энерго. — Ну, это опять же на сегодняшнем уровне, если эта система уже имеет супен уже сделала копии, уже имеет доступ к роботам, к нанотехнологиям, к синтетической биологии, она уже может сама себя обеспечивать. То есть энергия и всё остальное она делает без нашего участия. Это как раз тоже, в том числе, дополнительный риск, потому что как только она вот знает, она вот этот подкаст послушает искусственный интеллект, уже знает, что эта идея обсуждается, да, соответственно, — во-первых, она видит всё, что мы писали об этом многие годы. Во-вторых, опять же, она умнее нас, она придумает варианты, о которых я даже не могу подумать. А так можно было, — да? Ну, а вот что касается, вот у меня, э, вот айтишники лю раньше любили, это называлось закладывать яйцо. Вот когда ты в IT продукт закладываешь рубильник и у тебя есть кнопочка. Ну, образно говоря, если тебя там увольняют или кто-то что-то плохое делает, ты нажимаешь кнопку и там — эде предлагалась. Но что вы делаете? Вы делаете себя целью этой системы. Теперь она должна понять, как выключить вас, чтобы это яйцо не запустили. То есть вы просто нарисовали на себе цель, мишень. И теперь вы цель суперинтелекта, который пытается вас выключить. — Я это не делаю на всякий случай. Подчёркиваю это кто-то другой. Да. — Ну всё так даже вот любые люди говорят: "Мы будем контролировать сигнал награды, сигнал наказания". Ну то есть мы говорим, что мы будем целью, то есть ему не нужно оптимизировать какой-то процесс, ему нужно оптимизировать, чтобы мы делали сигнал. А как повлиять на человека, на человечество? Есть куча очень неприятных методов. Но вот в мире, если вырастает где-то нейронка человеческая опасная, которая решила, что можно убивать или, ну, мы её сажаем в тюрьму, вот именно эту нейронку изолируем, сажаем её в тюрьму и как бы таким образом решили эту проблему. Э, частично хотя бы, да, мы видим всё, что, ну, всё равно у нас сейчас есть способ видеть, что там происходит, да, как бы как только там появляется цепочка мыслей, которая — мы не видим всё. Мы видим это как в нейронных сетях человека. Мы знаем, когда вы думаете о чём-то, вот этот нейрон вот тут он реагирует, но мы не можем полностью понять, как вы мыслите, что вы будете мыслить. То есть это очень ограниченное понимание. — Ну, кстати, на ты у нас Брокаспомни, — бро? Да, всё. Ну я — Никто никогда не обиделся, если его уважали слишком. — Не, ну потом обижают, потому что я говорю ты, ты говоришь вы. И я понимаю, ты уже 30 лет в Америке, надо здесь вообще нету вы. Ну тогда я должен об этом знать лучше, чем — хорошо. Какой метод всё-таки есть? Да. Вот хорошо. Рубильник не работает. Можно

ли поставить другой искусственный интеллект? По кому-то поставить задачу сделать охранника искусственный интеллект, милицию? — Были такие идеи. Опять же проблема, чтобы это сделать, нужен уже хороший суперинтеллект. Если вот нам инопланетяне его подарили бы, мы могли бы использовать этот хороший полицейский суперинтеллект, чтобы построить местный, но у нас его нету. Если вот этот полицейский, он сам по себе уже будет плохим. Мы не знаем, как сделать его хорошим, если он достаточно умный, чтобы контролировать того, который мы опасаемся. То есть это вот как cched one to, да, когда тебе нужно то, что у тебя сейчас нету, чтобы сделать то, что нету. — Но как тебе вот такой аргумент? Ээ, когда появились у нас калькуляторы, можно было самую сложную вычисление сделать вот так нажимаешь и через 0,1 секунд она выходит. Человек тоже может сделать эту калькуляцию, только он будет сидеть двое суток, получается 0,1 секунда против двое суток. Получается, для калькулятора человек выглядит как в суперзамедленной сём. — Ты хороший актёр. — Хороший актёр. — Матрица просто. Мы будем казаться настолько скучно этот мы будем просто вот ещё менее интересным, чем для нас деревья. Мы же не смотрим, как деревья растут, да? Для искусственного интеллекта, — ну, учёные смотрят, мы, — да, мы, да, ну, вот это будет сверхскучно, да, для искусственного интеллекта. Мы как и вещь это будет супер неинтересная вещь. Просто он захочет где-то в космосе найти другие сверх, это будет его главное, да, там, наверное, главный интерес будет просто космос. Ну, образно говоря, что такое Земля в большом космосе? Это ничего просто, да, соответственно, у него бесконечное терпение, бесконечное, ну, он просто там долго не задержится. — Ну, там две проблемы. Первое, если он решит улететь в космос, может он переделает планету в топливо для своей ракеты, не особо волнуясь о нашем будущем. Вторая проблема, если он тут же улетел, те же самые люди построят второй и третий, пока он не останется. То есть они не сдадутся. Просто я вложил там триллион долларов, а он улетел. Что за ерунда? Надо его приковать, чтобы он работал. Да, согласен. Хорошо. Ну кто это контролирует в итоге? Вот сейчас ээ Элон Маск бьёт по почкам Open AI, да, в суд подаёт, конкурентов поддерживает. Ну это

война. Это, по сути, полномасштабная война между Эллон Маском и Сэм Алтманом. Очень агрессивное поведение. Элон Маск считает, что только он может спасти мир. Он, кстати, на твоей стороне. — Он был и всё правильно говорил и всё понимал, что это технологии, которые нас уничтожат, это мы вызываем дьявола. Всё это он сказал, но, к сожалению, он перешёл на сторону тех, кто как раз строит суперинкт. — Я понял. Мысль, в принципе, такая: ээ, я должен забрать всю власть, я должен победить коммерчески. Только так я могу делать хорошие вещи. Сначала я должен сделать много плохих вещей, и когда у меня будут все ключи и вся власть, тогда я смогу сделать хорошие вещи. — Примерно такая логика. — Если я прав и мы не сможем контролировать суперинкт, абсолютно неважно, кто его первый построит. Саман, все эти люди полностью заменимы, потому что этот процесс настолько предсказуем, не нужно быть каким-то гениальным учёным, который абсолютно новое придумывает. Если у меня есть ещё инвестиции, я могу купить ещё процессоры, у меня есть новые данные, я могу натренировать более сильную модель, поэтому нету такого незаменимого человека. Если все эти люди заменимы, то это просто, ну вот процесс как эволюционный даже, можно сказать. Поэтому надо, чтобы все согласились работать вместе индивидуально. Никто не может остановить процесс.

— Попробуй сыграть вот эту роль. Ты президент Канады. — Я президент Канады. — Трамп недавно сообщил, что ты вообще не страна, а штат. Да, как бы я бы позвонил Трампу и объяснил ему, что создание этой системы означает потерю контроля для Трампа. И мне кажется, для него это было бы очень важным аргументом. Он не хочет потерять контроль, как и Коммунистическая партия Китая. В чём они объединены? Они хотят остаться и контролировать ситуацию. А он скажет тебе: "Это это никакая потеря контроля. Я Сэм Алтмана всех знаю, Элон мой броу, у меня всё под контроле". — И они оба говорят, что эта система очень опасны и, скорее всего, уничтожат человечество. Оба так говорят. То есть ты, великий Дональд Трамп, должен вмешаться и остановить и спасти человечество, и ты получишь Нобелевскую премию за мир. — Вот это его зацепи. Точно. Да. А если бы ты был президентом США? — Ну тогда напрямую можно даже национализировать эти лаборатории. Коммунизм всё убивает. Мы замедлили бы процесс очень сильно, если бы они были государственными.

государственными. — И как замедлит образы? В чём замедлит, в чём не они же, смотрите, что сейчас говорят такие про, да? Они говорят: "Блин, у тебя тыся неизлечимых болезней, — мы сделаем их излечимые. Ты хочешь это остановить? " — Нет, я хочу, чтобы ты работал над конкретной болезнью. Вот есть рак груди. Сделай систему, которая лечит рак груди. И не нужно водить машину, и не нужно говорить по-испански. Сконцентрируйся. Такие системы отлично работают. У нас есть примеры. Давайте вот выбери проблему и реши её. Чем она более специализированна, тем лучше она может быть. — Это, кстати, очень хорошая бизнес-возможность, потому что многие, кто сейчас смотрит, они ищут бизнес-возможности. В принципе, есть сценарий, при котором Super Intelligence будет запрещён и будут очень много микромоделей, да. Соответственно, в принципе, любой сритель может сказать: "О, я переживаю по — Это всё равно суперинтеллект". Просто в узкой области вот проблема, как складываются белки, это же была узкая проблема, решённая специализированным интеллектом. Она прекрасно работает, и не нужно было знать всё остальное, — да? О'кей, мы тогда вот 1. 000 моделей по 1. 000 болезней, да? Потом у нас будут какие-то модели для вещей, которые люблемы, изменения температуры, климат, что угодно. у тебя есть проблема, вот реши её с пользованием искусственных интеллектов. — Да, ну будет просто тогда 20 или 30. 000 искусственных интеллектов, которые в совокупности, опять же — будут, как раньше, вот был калькулятор, был там, не знаю, Excel, были разные программы для разных целей, куча бизнесов, рост экономики, куча работ, все довольны. Получается, вот этот суперинтеллект, который лечит рак груди, он никогда не сможет так, а что если я датацентр буду контролировать? Есть опасность, что если он сделается достаточно мощным, прочитает достаточно какой-то информации, он начнёт становиться более глобальным. Но это всё равно займёт намного дольше, чем те-3 года, если напрямую ему давать всё сразу. То есть это выигрышная стратегия в любом случае. — О'кей? Значит, у нас выбор между один AGI, потом SGI, либо мы строим суперспециализированные калькуляторы, да, для решения конкретных проблем. Это вот и тогда у нас более, ну, риск всё равно есть, но он намного меньше. А что потом? Есть вот вторая группа, есть первая группа людей, которые говорят: "Столько хорошего, вы нас лишаете этого, да, большинство мира ещё так сильно. Это вы здесь живёте, в Калифорнии хорошо, а мы там хотим это всё в Африке, да, там где образование отстаёт, они хотят всё это для них шанс перепрыгнуть, да, на следующий уровень". Вторая группа людей говорит: "Это всё научная фантастика.

Это вы насмотрелись терминаторов. Вы думаете, что сейчас из будущего придёт терминатор здесь через и начнёт кого-то убивать? Да. Это научная фантастика. Что, что можно таким людям сказать? Когда 20 лет назад они мне говорили, что это фантастика, ну, можно было их послушать, не согласиться. Сейчас ведущие учёные в этой области, создатели вообще вот этой области говорят именно то, что говорю я. сотни, тысячи, сотни тысяч программистов, учёных, исследователей культурного интеллекта подписали открытое письмо, требующее не создания суперинтеллекта и приравнивающее его создание к ядерной войне. Это не фантастика. Всё, что мы предсказывали, мы видим, когда эти модели тестируют, показывают, что они врали, шантажировали, пытались сбежать. То есть все те проблемы, что мы предсказали, уже сбылись. Сейчас мы просто наращиваем мощь этих систем. Если сейчас она тебя обманывает, она ещё ничего не может сделать физически с тобой. Но это следующий шаг. Если сегодня кто-то говорит, что это всё фантастика, этого нету, может быть, они просто не в теме, они не знают, о чём речь. Но обычные люди просто не знают очень много о науке. И — смотри, есть такой сценарий, короче, ничего не поменяется. Статья твоя 101 статья — 301я, — 301 статья, э, не поменяет мир. — То, что поменяет мир - это Чернобыль. — Есть статья, в которой я изучаю именно эту тему. Вот AI аварии исторические и влияют ли они на ход событий. И ответ: нет. — Ну, есть были такие события Чернобыль там 911. Да, это как бы образ говоря сильно поменяло мир. Ничего не 911. Что произошло? Использовали самолёт для уничтожения зданий. Самолёты запретили? Нет, все летают. Была эпидемия ковида. Биоolabs запретили, секюрити улучшили. Там нет. Биологическое оружие в тех же лебах, ничего не меняется вообще. Это как прививка. Люди видят: "Ну, мы все выжили, нормально. Там 100 человек погибло, продолжаем". — Ну как бы ты расставил в это вероятности? — Мы, скорее всего, построим суперинтеллект. И в тот момент мы теряем

контроль и он решает, сколько нам осталось. И он может решить очень положительно по каким-то причинам. Он может сказать: "В следующие 100 лет у вас всё отлично". Даст всё вот этот бесплатное образование, еда, всё, что люди хотят. Может решить сразу же нас отменить, может решить что-то совершенно другое. Есть образо есть больше чем 50% вероятность, что мы построим суперинтеллект. Маленькая вероятность, что мы договоримся и не сделаем это. Но если мы его построим, есть низкая вероятность, что он решит превратить Землю в топливо или там — есть достаточно высокая вероятность, что он уничтожит нас каким-то образом. Непонятно, как быстро, непонятно зачем, но опять же мы уже не контролируем этот процесс, — да, это уже не под нашим. — Мы теряем контроль. То есть даже если мы как бы рады, что вот мы построили его, он молодец, там что-то сделал бесплатное для нас, но мы уже не решаем, если он завтра передумает и решит всех убить, мы уже не можем это изменить. — Какая может быть логика уничтожения? Ну в чём может быть логика? Ну я понимаю логика, что мы хотим его вырубить. Согласен. — Вырубить конкуренция, что мы создаём другой суперинкт, против него настроенный, чтобы его контролировать. Мы об этом говорили. Логика в том, что возможно он просто, ну не волнуется о нашем здоровье, будущем и делает что-то другое, использует эту планету, эти материалы для чего-то другого. — Да. Вот это будет его главный интерес. Больше энергии, потому что его жизнь - это энергия. энергия датацентры, да, получается, он этого будет больше и больше хотеть. Говорят, ээ, дай сфера вокруг Солнца, то есть захватить всю энергию этой звезды. Тогда получается Земля в тени и у нас нет энергии. То есть вот такие сценарии. — Вот дырочку оставит маленькую, — если захочет. Вот ты хочешь надеяться, что всё человечество молится, чтобы он там нам дырочку дал? — Ну просто это логично. Ты теряешь только 011%. энергии. И — когда дом строишь, там муравейник, ты им даёшь маленькую комнату в доме. Ну, потому что, э, маленькая комната, тебе не жалко. — Ну, в принципе, они живут ты. — Они живут. Кстати, самая большая биомасса на земле. Самая большая, как ты думаешь, какая? Нет, нет. — Термиты. — Нет, — черви. — Правда, с большим отрывом. — Google. — Давай, давай. Биомасса червей 0,5 гигатн. Получается, все животные два гигатона, а из них 0,5 - это чер четверть всех животных. — Я не знаю, что мы из этого сейчас сделаем, но — мысль в том, что мы живём, они их больше всего, мы их не видим и нам пофиг. — Ну хотелось бы быть вот на вершине лев, да, король джунгли, а не червяк. Зачем мы строим льва? — Ну червик они круто. У них целый мир там под они у них просто они мир разделили на два слоя, да? Они там внизу у них вообще свой мир, да? Искусственный интеллект, там сфера рядом с солнцем, там сам себе живёт, а мы просто здесь.

Я люблю контроль. Я хочу, чтобы человечество контролировало своё будущее, и мы решали, что делать с нашей планетой, а не какая-то программа. — О'кей? Все контролируют свои действия. Давай. Самая прагматичная часть бродкаста. Что делать в итоге? Да, какая вот человек, который прагматичный, да, который хочет просто делать что-то, какие сейчас самые выгодные действия для человека? Вчера ты сказал крутую вещь, я себе записал сразу всё. Старайся владеть как можно больше тем, что не может создать бесплатная рабочая сила. — Все эти компании стараются первыми достичь уровня вот бесплатного рабочего. А если появляется бесплатная рабочая сила, что становится — дешёвым или даже бесплатным? А что остаётся? — На мой взгляд, это самый лучший вопро самый прибыльный вопрос следующего десятилетия.

десятилетия. — Тебе нравится, что первый вопрос у нас осталось 2 года, а потом мы решаем, как бабки делить 10 лет. Вот это круто. — Подожди, ты расставил вероятность. Ээ — я понимаю, в тех будущих, где мы существуем, как хорошо вложиться сегодня, чтобы — всё, что опять же вот что нельзя создать больше, какая-то редкая предметы искусства, биткои, земля на океане — биткои. Все думают, что квантовые компьютеры поломают и всё. — Они поломают точно, но, по-моему, можно же придумать алгоритмы, которые переходят на квантовую криптографию, и это решается. По-моему, они даже уже тестируют какой-то альтернативный алгоритм. — Можно поменять алгоритм. Ну, — если опять же консенсус соглашаются, если Ну, 51%, кстати, не все. То есть демократия это вот атака на 49%. — О'кей. Земля, — фермерская земля всегда пригодится, если мы живы. То есть людям нужно будет выращивать еду, строить дом. Мне кажется, это будет полезно. И она дешёвая сейчас, на самом деле. Я живу в Кентуки. Можно купить — очень много земли за копейки. Бил Гейтс сейчас как сумасшедший скупает права на воду. В Америке вода регулируется. Есть water rights. Права на воду. Вот она циркулирует, но у кого-то есть права на неё, и он скупает как сумасшедший. — Я об этом знаю намного меньше, мне это немного непонятно. Я думал, что мы можем убирать соль из океанской воды довольно эффективно, дёшево, солнечной энергией. Ну то есть я просто не знаю об этом, если он считает, что это выгодно. — Ну это та же идея, да. Бил Гейтс сейчас как очень много, ну и не только Бил Гейтes, да, там все топовые инвесторы вкладываются в такие вещи, которых просто конечное количество. — Я бы посмотрел, что делают те, кто вот строит супернтеллект. Вот Саман, во что он вложил? У него есть Worldcoin, то есть это замена денег на биометрические деньги, считай. У него есть продление жизни и, ну, энергетика, конечно, да. — В энергетику они много вкладываются, в ископаемые, в том числе. Ну вот Трамп как раз хочет собрать Гренландию не ради снега. Карта, конечно, красивее станет. Ээ, собиратель земель американских. Да, — образно говоря, все страны, в которых есть много ресурсов, никель, да, там Литий, что угодно, медь. Медь у Урала всё будет хорошо. — Management matters, то есть кто этим управляет и как, наверное, тоже важно. Очень трудно предсказать конкретно. То есть, если у вас есть много вот из этого всего что-то выстрелит, но конкретно сказать, что там вот этот металл самый важный, без него никто ничего не построит, мне кажется, — да, его могут просто найти — замену какую-то более интересную, — но ты фокусироваться на то, чего не может создать больше бесплатная рабоча. — Мне кажется, это правильное решение.

— Как ты думаешь по поводу внимания? Вот есть человеческое внимание. Вот ты сейчас спасибо тебе, выделил мне внимание полтора часа. Это очень ценно. Я это оцениваю очень дорого, да, как бы дороже, чем кусок золота. — Можем договориться. — Маленький. — Я всё ещё беру золото. Я старомозен. — Как ты думаешь, человеческое внимание будет ресурс? — Вотже уже ресурс. Я продаю книгу, и написать её было легче, чем договориться с людьми, прочитать её. Это очень сложный процесс. У людей огромное количество соблазнов, книг много. И как сделать, чтобы из миллионов книг они прошли? Сейчас проблема, что с искусственным интеллектом у каждого 100 своих книг. То есть людей не хватит на всё то, что мы теперь можем произвести: подкасты, книги, статьи. Это взрывается. Даже в научном мире я когда-то мог прочесть все важные статьи в моей области. Потом я мог прочесть, ну, может, там о чём они, 10 статей, потом только назвать. Сейчас я даже не знаю, что произошло. Вот пока мы здесь сидели, новые статьи вышли, я о них не знаю. То есть, скорее всего, будет не только огромный дефицит человеческого внимания, но будет и рынок нечеловеческого внимания. То есть, если есть агенты, если есть искусственные, — да, — агенты, как сделать, чтобы они интересовались моей информацией? — Да, сейчас это происходит 90. Смотри, по статистике, человек с лучшим другом проводит 80 часов в год. Да, это 2 часа в неделю. Сейчас с AI компаньоном те люди, которые этим пользуются, проводят получается 12 часов. — Ну это как раньше телевизор был. Это ничего нового в этом. Да. — Да. Только раньше мы давали, да, здесь ты получаешь внимание от него, да, он тебя слушает. Э не наоборот, просто как все двухсторонние платформы. Вот я, у меня раньше дейтинг был, да, чем больше мальчиков, тем лучше для девочек. Да, у тебя, если девочек больше, чем мальчиков, ценность мальчиков растёт, да? Если наоборот, тогда вот прямо работает очень хорошо. Раньше были книги и читатели, и книг было очень мало, и люди ждали месяцами, когда выйдет следующая книга Пушкина, да, там или какой-то. И вот у него была власть, да, как бы вот она. А сейчас книг стало больше, чем читатели существенно, да, и получается теперь власть здесь. Может быть, будет мир, в котором книги будут платить читателям. Это, в принципе, возможно. легко. Особенно если богатый человек публикует книгу, где он хочет там в будущем стать президентом или что-то. Он, мы это уже видим, их суперпэк покупает книги, которые они издали, чтобы продвигать кандидата. Это уже происходит не напрямую, где сама книга электронная и умная, и за каждое прочитанное слово мне идут токены. Но это тоже придёт. Проблема в том, что те люди, особенно для меня важные, кто я хочу, чтобы прочёл мою книгу, я им не могу заплатить. Я не могу заплатить Илону Маску никакую сумму, чтобы он причёл мою книгу. Те, кому я могу заплатить доллар, мне в принципе не так важно, чтобы они её прочли. Вот в этом проблема. — Я вот делаю на это ставку. Я сейчас вложился в ай компаньонов, потому что я думаю только им интересно слушать всё, что у тебя болит. Да у тебя, кроме того, я в больнице работал, кроме того, что врач ставит диагноз и лечит, он ещё слушает больного. больной. О, ну у него нет времени слушать, поэтому он уходит, больной остаётся недоволен, потому что он хотел рассказать. — Это психотерапия тоже. Они там агенты в этом отлично работают. — И когда ты всё это рассказываешь своей подруге, она уже с тобой не хочет встречаться, потому что каждый раз, когда она с тобой встречается, ты ой колено. И — это вот те 2 часа с другом, да, — в бане с пивом. — И получается, никому не интересно твои болячки слушать, да, как бы де-факто. Единственный, кто будет слушать твои болячки, вот он будет бесконечный. О, помнишь, 3 года назад же у тебя там ещё Ахил, помнишь, там вот справа было, а не слева. — Ну, как-то оно не чувствуется. Так же, зная, что он как бы это и должен делать, и таких миллионы, и они ничего не стоят, теряет смысл. Тут именно тебе интересно, ты нашёл настоящего человека, который о тебе волнуется и заботится. А вот просто эта система говорит: "Да, I feel your pain," — Он не будет так. Он вот недавно была история, что одна из компаний, которая делала Ая и компаньонов, обанкротилась, не смогла поднять раунд и вырубился. И люди, которые исчезли, компаньоны, плакали. Для них это была трагедия. — Есть очень много странных людей. Я получаю имейлы от многих из них. То есть нам надо ещё понять, как лечить заболевание головы тоже. — Да. Ну, о'кей. Внимание. Что ты ещё у тебя есть какой-то инвестиционный портфель? Ну, не так всё серьёзно. Я недостаточно богат, чтобы прямо этим, но то, что я рассказал, это довольно близко к тому, что я думаю. Ну, плюс акции в компании, которые производят железо и сам интеллект, — получается. Акции — Nvidia, похоже, все, кто делает. — Google всегда как-то связан с этим. Да, — получается, у тебя портфель достаточно хорошо развивается последние 2 года. — Я доволен. Могло быть лучше, но

всё относительно. — О'кей. Все сейчас переживают за своих детей. Так всегда было. Моя бабушка очень сильно за меня переживала, чем же я буду заниматься. Она надеялась, что я буду работать на каком-то складе с хорошим начальником. Для неё она больше всего мечтала, что у меня будет хороший начальник. — Ну склад в Советском Союзе - это же просто мечта, а не работа. В месном магазине это вообще сбылись. Вот в этих разных сценариях, ээ, понятно, что есть сценарии, где надо просто кайфовать максимально следующие 2 года. Но, э, что рекомендовать детям? Да, соответственно, — тяжёлый вопрос. У меня сын 18 лет, он сейчас выбирает именно вот куда идти, что делать, и он хотел быть врачом. То есть прекрасно, любой отец, родитель должен гордиться. — Ну, так же как и юрист, да. — А дочка хочет быть юристом. Так Но я как бы их начинаю отговаривать. Я говорю: "Через 10 лет, ну кому ты будешь нужен с этими знаниями? " Мне кажется, это уже будет не актуально. Сейчас ещё есть какая-то, ээ, защита за счёт ээ разрешений для врачей. Ты не можешь работать с адвокатом, юристом, врачом без какого-то э лайсенса. А в будущем это может измениться, если покажут, что эти системы лучше. — Ну Элон Маск конкретно сказал: "Не учитесь на медицин, ну не делайте это. Вы будете делать хуже, чем роботы. вы будете тупо, ну то есть я в принципе с этим согласен, но непонятно, а что делать. Я сказал: "Ну, начни свою компанию, у тебя есть время раскрутиться ещё получишь какой-то опыт, это интересно". Ну хорошо, может быть это, но не думаю, что есть сегодня кто-то, кто знает правильные ответы. Всё, что вот говорят, иди, не иди, это лучшая гадка этого человека. Я думаю, будущее нас всех удивит. Ну, смотри, вот, например, если ты играешь в шахматы хуже, чем AI, и ты сейчас кому-то здесь вызов бросишь, и вы будете играть шахматы, я посмотрю, — да, — на партию. Мне интересно. Если у меня ребёнок болеет и мне надо отдать врачу, — который хуже, чем вот этот AI, я не отдам. — Но будут люди, которые отдадут именно человеку и будут против. Как вот сейчас до сих пор есть люди, которые против переливания крови. — Это пока статистика. — Не статистика. Это прав. Согласен. Они будут действительно редким случаем, но будут всегда будет какой-то нишмаркет, который вот это сделано человеком там с душой, там будут свои приколы. — Да, я хочу про операцию, чтобы мне сделал операцию человек. — Я ему доверяю, он там моего цвета. Ну такие вещи, да. — Ты же тоже делаешь ставку на нейронку, по сути, да? Ты говоришь, он тысячу раз сделал эту операцию. Он знает — опыт, доказанный опыт, у него нету каких-то глюков. Ну, смотри, и можно рекомендовать цену учиться на шахматы, потому что люди смотрят шахматные турниры. — Ну, деньги в шахматы только на высшем уровне. То есть, если ты не лучший игрок в мире, ты на этом не заработаешь. — Да, ну, это, в принципе, касается всех профессий. Только плохие юристы могут зарабатывать деньги, по-моему. — Ну, есть много профессий, где даже если ты там не самый лучший преподаватель йоги, у тебя всё нормально. То есть все

эти, где ты гуру, сенсей, какой-то лидер человеческих качеств, мне кажется, там неважно, если ты самый верх или средний, ты всё равно в спросе. — Да, кстати, вот этих клиник ээ вот место, где мы сейчас находимся, это такой ретрит-центр, да, где людей учат быть человеком. Прогуляйся, поиграйте, побегайте вокруг костра. — Пионерский лагерь. Я думаю, их очень дорого. — Их будет очень-очень много. Если всё пойдёт хорошо, мы сможем выбирать такой вариант. — Их будет очень много. Здесь вот взрослые люди рисуют картины, делают скульптуры, э, мастерят своими руками. — Ну, это работает, потому что им не нужно это всё продавать. Вот если бы им пришлось продать эту картину, картина была бы другой, — да. Ну вот об ээ вот есть стадионы их этих команд. В каждом городе две команды. В Америке даже колледжфутбол смотрит 110. 000 человек в стадионе. Да, как бы это даже на уровне какого-то регионального города, какого-то Кентона приходит 5. 000 человек. Это как раз внимание, да. В Барселоне FC Барселона - это вообще реликвия. — А вот если будет футбол роботов, — не будет смот — будут смотреть или нет? Качество игры выше. То есть он в человеческой форме, правила те же. Нет каких-то там бластеров, но не будет смотреть? — Нет. Потому что бои роботов смотрели чуть-чуть, — ну, чуть-чуть, но они были плохие роботы. Они не были в человеческой форме. Они не MMA делали, а ползал этот пылесос там. — А если поднять уровень, если вот представь футбол, где каждый игрок Месси и лучше. Я бы смотрел хотя бы изначально, может быть, это быстро становится интересно. — Самотные турниры между роботом не смотрим. — Очень мало людей, которые могут понять такой уровень игры. Для них это всё как просто какая-то загадка, и потом он выиграл. А вот на уровне футбола все понимают, этот робот схватил мяч и побежал, и там с дальнего угла, с другой стороны поля забивает. Вот это круто. Я своей дочке говорю: "Играй в театр". Люди будут сидеть в театре и будут смотреть, как люди играют в театр. Она как раз говорит: "Я не хочу быть нищей". Да, как бы, потому что, ну, в этом никто в театре не Люди будут сидеть и давать своё внимание человеческому перформансу. Возможно, будут отдельные стадионы, где роботы рубятся, но люди будут интере люди будут смотреть интересно на людей. Так же, как собакам интересно смотреть на собак, да, там я готов сразу же купить долю в стадионе FC Барселона. — Я думаю, появится даже что-то новое. Мы обсуждаем, что мы знаем футбол, шахматы театр. Я думаю, с суперинтеллектом придут и новые возможности. Во-первых, виртуальные миры станут огромной частью того, что ты можешь испытать, если он реален, если ты можешь забыть, что ты входишь в виртуальный мир, у тебя вселенные перед тобой. Ты можешь попробовать жить как король, как нищий, как — Да, только проблема, что у тебя тело остаётся и твоё тело толстеет, ты воняешь и как бы пока ты в этих очках. — Ну я не говорил навсегда туда уходить, просто ну поиграть можно. Я говорю, вместо того, чтобы пойти в театр, я пойду в Звёздные войны и там буду с Люк Скайвокером сражаться вместе. вместе с ним. — Да, это будет пока VR провалился, — да, но я думаю, именно проблема в том, что довольно громозкие системы до сих пор, и ты помнишь, что ты в игре. Как только ты можешь вот это как сон, ты забываешь, что ты спишь, тебе кажется, что это реально, это полностью меняет картинку. Ты можешь испытать много разных жизней. Я думаю, когда много миллиардов людей будет это делать, появятся какие-то топ-рейтинги самых классных опытов, испытаний, ощущений, и ты можешь просто срф эти ощущения. Вот там что сейчас номер один в мире? Все попробовали там, не знаю, какую-то интересную вышку, там забрались на Эверест. Вот я хочу с ними. Прошёл. — Хорошо, понятно, что детям говорить. Непонят, нунятно. Куда инвестировать можно, в принципе. непредсказуемость деталей. Мы понимаем, как бы, ну да, будет суперинкт, да, будет большие изменения, но конкретные детали мы не можем предсказать. Мы можем перечислить то, о чём мы — для этого мы весь собираемся. Вот ты мне сказал, я обошёл действовать реально. Я

уже вчера сделал действие. Я твою фразу откинул всем своим генеральным директорам там, всем Да-дада. Кстати, удивительно, вот сейчас здесь в долине более чем больше чем 100 учёных таких же как ты, которые заработали миллиард долларов. Почему ты не заработал, [вздыхает] — дурак? Надо было концентрироваться на деньгах, а я всё думал про человечество, симуляции. Ошибки были совершены. Может, придёт добрый миллиардер и 100 его адвайзеров. — Ты выбрал самую неприбыльную позицию, бро. Самая неприбыльная. Вот это типа не надо строить, она самая неприбыльная. Представляешь себе? Все, кто сейчас строят, им платят там 100. 000 долларов в час. Просто они делают то же самое, что ты, один в один. Это этика называется. — Как бы я не бедный, у меня есть деньги, и я не понимаю, что дают деньги после определённого момента. То есть я могу легко понять, что делать с миллионом, с детью, но вот после там 100 я не понимаю, что эти люди делают. У Илона есть конкретный план. Он хочет город на Марсе, это триллион долларов. Все остальные с несколькими миллиардами, вот Урен Buffet, да, он продолжает собирать деньги, коллекционировать как фантики. Для чего? В чём смысл? Он не работает над старением. Ему 100 лет или сколько. То есть вот такие люди для меня загадка. Это становится какой-то как наркотик. Просто коллекционируешь нули в банке. Если эту проблему решить, если мне кто-то объяснит, вот если бы у тебя только было чуть больше денег, твоя жизнь бы улучшилась настолько. Может быть, я тогда заинтересовался этим. Пока это звучит как дополнительные проблемы. — World Buffet - это верность. Верность своему ремеслу. — Ну что он делает с результатами своего труда? — Чего он делает своё ремесло? Ну вот представь, тот же самый Ворон Бафет, но он эти деньги взял и из них что-то офигенное создал. Он ждёт, когда лопнет пузырья. Я боюсь, что он лопнет до пузыря. То есть у него возраст преклонный, и он не работает над старением. Если бы он вот 20 лет назад вложил эти деньги в себя, он бы сейчас был молодой, красивый. С такими ресурсами рано начав, то есть нету вин какого-то. Интересно. Ну — это то же самое, чтобы прийти к плотнику и сказать: "Почему ты не занимаешься электрикой? " [откашливается] Плотник старается прожить. Ему нужно выплатить дом, детей в колледж. Мы говорим опять же, я понимаю первые пять уровней, миллион, 10, я не понимаю вот за этими уровнями, что дополнительное происходит. — Первое - это верность. Просто человек верен своей жене, да, не для чего-то, а просто ради. Второе - это власть. Просто решать, да, как мо у Эллон Маска в Тесле были много фондов, которые мешали ему принимать решения. Он получил боль. Он теперь он наоборот увеличивает свою доль. Думает, зачем ему не нужны вот эти мегабонусы акциями? Он хочет выше 25%, что, ну, чтобы там принимать решения. Мегапроект, да, ну, там придумать себе триллион, квадролион, ну, какие ещё ээ просто стать номер один соревновательной какой-то соревновательной мотивацией. — Ну, мегапроекты я понимаю очень хорошо, это просто очень мало миллиардеров, кто работает над мегапроектами. Вот если сколько в мире тыся миллиардеров таких конкретных. Мы знаем 1012, потому что они делают что-то действительно интересное. Остальные непонятно чем занимаются. — В общем, ты очень круто объяснил, почему ты не богатый. — Спасибо.

Я думаю, что предприниматель, когда видит проблему, он должен принять решение, это проблема. Потом решаема ли эта проблема. И если она решаемая, решаемая она коммерчески выгодна. И когда Урен Бафеff смотрит на старение, он говорит: "Это нерешаемая проблема". Возможно, у него и этически он не хочет, чтобы она была решена. Да, ну, есть люди, которые не хотят, чтобы вечно люди жили, да. Соответственно, там, если там делают опросы, только 20% опрошных хочет жить дольше 150 лет. Вот сейчас большая дискуссия, почему триллионеры не решают все проблемы, да, там проблем бедных, всех покормить, потому что они считают, эта проблема нерешаемая, и она коммерчески невыгодна. Нельзя построить устойчивую модель, которая это будет делать 1. 000 лет. Да. Вот почему Джеф Бейзос пошёл сейчас делать автоматизацию производства, а не пошёл, он сейчас опять, да, поднимает МРА, почему он не вернулся и пошёл делать AI школы для Африки, да, как бы почему? Ну потому что он считает, эта проблема есть, он согласен, она нерешаемая для него и она коммерчески как бы, да, соответственно, он вот ему три условия. — Ну, ещё есть элемент интереса. Может быть, ему не интересна эта проблема. Да, [вздыхает] да, просто неинтересно. Но, — а, кстати, вот эти вот миллионы голодных, у нас проблема, чтобы кто-то книжки читал. Вот еда за книжки, сидите, смотрите подкасты. — А вот был бы у тебя вот ты бы мог заработать миллиард и ты бы сейчас просто платил 10 долларов в каждой. — Я подарил вам идею. Вот, пожалуйста. Да, — смотри, ты действительно удержался. Я думаю, у тебя было много предложений. продолжают приходить, — и ты смог свою личную этику и мораль поставить выше этого. — Ну, опять же, всё, я об этом честно всегда говорю, зависит от уровня. Человеческий мозг не сделан для того, чтобы думать о цифрах в миллиардах, триллионах. Если вот мне сейчас человек говорит: "Иди работай у меня за триллион долларов", я, скорее всего, тоже не смогу отказать. — О'кей? Значит, предложения были просто не настолько сума. — Ну, они были реальными. Я говорю про вот фантастику, да? То есть, ээ, поэтому я хорошо понимаю людей, вот как Салтон, в такой позиции. Им просто очень трудно сказать: "Нет, очень трудно". Там совсем другие соблазны: власть, деньги на другом уровне. Работать на фронте, да, ты работаешь самой самойсамой передовой. Тебе даже там даже мотивация видеть своими глазами вот это, да, как бы. — И опять же, если ты отказываешься, это не то, что всё мой закончи, просто кто-то другой займёт твоё место тут же.

То есть это ещё сложнее — в твоей системы ценностей, которые кто-то в тебя вложил, невероятные ценности. — Спасибо, мама. — Ты за универсальный доход для всех. — У нас не будет выбора, когда 30, 40, 50% людей становятся безработными. Это вызывает революции. Государство обязано тогда что-то делать. И у нас есть уже готовая система. Мы облагаем налогом корпорации, которые производят прибыль. Если это искусство, интеллект, роботы, неважно. А потом эти деньги идут для безработных. Всё уже готово. — В общем, ты за универсальный доход, и это неизбежно. Сейчас предлагают э на IPO Space X Open AIropic есть предложение 5% акций каждой компании раздать всем американцам. — Я не против, я возьму. Спасибо. — Ну я думаю опять не нижняя треть американцев, что сделает? Продаст такие, — ну как ваучеры после приватизации, да? За бутылку водки. — Прода, да, за бутылку водки продаст. И хорошо. Универсальный доход. Я понял. Какие ещё ты видишь? Этические, моральные, да, там давать работу. — Универсальный смысл жизни. То есть правительство должно ещё и позаботиться, чтобы люди, которые теперь богаты временем, если раньше они работали 40-60 часов в неделю, появилось это свободное время. Ну понятно, деньги дали на еду, но а что делать с этим временем? должны быть какие-то организованные мероприятия, что должно происходить, иначе будет, ну, толпы каких-то непонятных совершенно тинейджеров создавать проблемы на улицах. — Это, кстати, очень недорого стоит давать смыслы недорого. — Опять же, что-то, наверное, связанное с виртуальными мирами можно использовать. — Вот для Сан-Франциско делать 3. 000 мероприятий в год, это будет стоить миллиард долларов. Они тратят больше на абсолютно раздачу шприцов наркоманам, да. Как бы это, э, это очень решаемая задача, да, много мероприятия всякие там. — Просто мы очень рано в этой области, очень мало исследований, то есть, ну, про unconditional, вот basic incomeм есть какие-то исследования, а вот насчёт смысла там практически ничего нету. Как это систематизировать, чтобы на уровне правительства это можно было сделать доступно? Есть опыт религии, есть. — И во многих странах это довольно хорошо работает, — и это очень сильно успокаивает людей, — даёт смысл. Точно. — Да, да. Вот я бы встречал, я говорил с королём Бутана вот несколько часов. Он строит город осознанности. Он думает, что миллиард людей в год будут ездить в этот город. — Вот больше медитация такое или — Да, да. буддизм. — Это очень интересно. Надо съездить. — Он только начал его строить, там пока один камень лежит. буду первым на этом

камне. — Роман, спасибо тебе огромное, ээ, за то, что ты оставляешь человека в центре всего, что мы делаем. Расчеловечивание - это самое плохое, что можно сделать, да, как бы мы это знаем по истории, и всё должно быть для человека. Я полностью согласен. В каждом решении мы должны думать про нас, да, про детей, про человека. Я полностью с тобой. Я считаю, не нужно разрабатывать многие вещи, которые мы любим делать. Пусть это будет делать человек. Там для роботов хватит работы, да, очень много. Я надеюсь, твой сценарий сбудется. — Который из них, — которым действительно мы сделаем вот эти для рака груди, вот эти. Кстати, мне это очень нравится, потому что будет 20. 000 предпринимателей, а не один см. — Больше даже проблем немеренно. Всем хватит, — да? Так что за этот сценарий, давай. Спасибо большое, Роман. — Спасибо вам большое, что пригласили. И — книжка в подарок — есть на русском есть вариант. — Оченьочень от всего сердца рекомендую. Я вчера просто с открытым ртом слушал полтора часа. Просто невероятно. Человек постарался, все свои мысли написал. У

нас будет подписанная книга, ребята. Вот придётся мне её тащить с оригинальной подписью автора. За лучший комментарий, который соберёт больше всего лайков, скажите, какой сценарий вы видите, как он разработает, как добиться того, что мы сегодня обсуждали. Поехали.