Лучший документальный фильм про создание ИИ

Привет, Альфа. Привет. Ты можешь помочь мне написать код? Меня обучали отвечать на вопросы, но я способна учиться. Это говорит о твоей широте взглядов. Спасибо. Я рада, что вы мной довольны. А что делает этот парень? Это разработчик. Как думаешь, над чем он работает? Сложно сказать. Возможно, над новой функцией, исправлением ошибки или чем-то ещё. Вполне возможно. Да. Ты видишь мой рюкзак? Это ракетка для бадминтона. Это ракетка для сквоша. Но ты была близко. Нет, но ты не первая, кто так ошибается. И технология, которая развивается с головокружительной скоростью. Искусственный интеллект сейчас в центре внимания. Некоторые уже бьют тревогу. Это действительно вызывает беспокойство. Это вооружённая гонка. И мы не знаем, к чему это всё приведёт, но, очевидно, что-то происходит. Мне это не даёт покоя.

Попытка создать AGI - самое захватывающее путешествие, на которое, по моему мнению, когда-либо решалось человечество. Если относиться к этому всерьёз, времени остаётся не так много. Жизнь очень коротка. Цель всей моей жизни - решить задачу

искусственного общего интеллекта, а по пути использовать и как универсальный инструмент для решения самых сложных научных проблем мира. Я считаю, что это больше, чем интернет, больше, чем мобильные технологии. Это скорее сравнимо с появлением электричества или огня. Мировые лидеры и эксперты в области искусственного интеллекта собираются для первого глобального саммита, посвящённого теме безопасности в сфере Ии. Повестка встречи обратить внимание на риски, которые влечёт за собой. Мне кажется, сейчас наступает критически важный момент для всего человечества. Ощущение такое, будто мы стоим на пороге невероятных событий. Давайте пройдёмся по некоторым реакциям, которые, думаю, уже довольно близко. Возник огромный интерес к тому, на что он способен, куда он нас ведёт и вообще, это момент, ради которого я жил всю свою жизнь. Меня всегда завораживало человеческое сознание, поэтому я решил изучать нейронауку. Я хотел черпать вдохновение для и из работы мозга. Я помню, как спросила Демиса, какова конечная цель.

Ты придёшь сюда, будешь изучать нейронауку, возможно, получишь докторскую степень, если будешь усердно работать. А он ответил: "Я хочу решить проблему и я хочу понять и решить интеллект. Человеческий мозг - единственное доказательство существования общего интеллекта, которое у нас есть, возможно, во всей вселенной. И я подумал, что в этом здании должен быть кто-то, кто также интересуется общим интеллектом, как и я. И тогда всплыло имя Шейна. Наш следующий спикер Шейн Лег. Он из Новой Зеландии, где получил образование в области математики и классического балета. Становятся ли машины действительно умнее? Одни говорят: "Да", другие нет. Мы знаем, что они становятся намного быстрее в вычислениях, но движемся ли мы вперёд в плане общего интеллекта? Мы оба были одержимы AI, искусственным общим интеллектом. И сегодня я собираюсь говорить о разных подходах к созданию AI. Вместе с моим коллегой Демисом Хасабисом мы ищем способы привнести идеи из теоретической науки. У меня было ощущение, что мы храним некий секрет, о котором больше никто не знает. Мы с Шейном понимали, в академической среде нас никто не поддержит. Тогда слово искусственный интеллект было почти неловко произносить. В научных кругах это считалось чем-то несерьёзным. Если ты говорил, что работаешь над и, значит, ты явно не настоящий учёный. Поэтому я убедил Шейна, что единственный правильный путь - создать компанию. Итак, мы собираемся попробовать создать общий искусственный интеллект. Возможно, это вообще невозможно. Мы до конца не уверены, как именно будем это делать. Но у нас есть представление о подходе. Огромные деньги, колоссальные риски, гигантские вычислительные ресурсы. И если у нас получится, это будет самым большим достижением в истории. Для обычного инвестора поставить на такое крайне сложно. Это почти как купить лотерейный билет. Я собираюсь поговорить о системной нейронауке и о том, как она может помочь нам в создании AI. Найти стартовое финансирование было очень тяжело. Мы говорили, что собираемся решить проблему интеллекта в целом. Можете представить, как на нас смотрели, когда мы это рассказывали. Я венчурный инвестор и просматриваю примерно от 700 до 1. 000 проектов в год. Финансирование получают буквально 1%, около ми проектов в год. То есть в 99% случаев вы слышите: "Нет, подождите, я же говорю вам, что это самое важное дело всех времён". Рассказываю, как это связано с мозгом, почему именно сейчас подходящий момент. И после всего этого вы спрашиваете: "А как вы собираетесь зарабатывать деньги? Какой у вас продукт? " Это настолько приземлённый вопрос. Вы вообще слушали, что я говорил? Нам нужны были инвесторы, которые вкладываются не потому, что считают это лучшим инвестиционным решением. Скорее, потому что им просто кажется, что это невероятно круто. Он - версия человека за занавесом из волшебника страны ОС из Кремвой долины. Он сыграл огромную роль в появлении PayPal, Facebook, YouTube и Ел, если все видят X, Питер Тил подозревает, что противоположность X вполне может быть правдой. Питер Тил стал нашим первым крупным инвестором, но он настаивал, чтобы мы переехали в Кремвую долину. По его мнению, только там был нужный талант и возможность построить такую компанию. Я же был довольно твёрд в том, что мы должны остаться в Лондоне. Я считаю Лондон потрясающим городом. И я знал, что в Кембридже, Оксфорде и UCLэль есть невероятно сильные специалисты. В

Кремнеевой долине каждый год все основывают компании, а если что-то не получается, бросают и начинают новое. Для долгосрочной исследовательской задачи это совершенно не подходит, так что для него мы были полным исключением. Итак, добро пожаловать в Deep Mind. В чём наша миссия? Мы формулируем её так. Миссия Deep Mind - создать первую в мире универсальную обучающуюся машину. Поэтому мы всегда подчёркиваем слова универсальное и обучающая. Наша миссия заключалась в создании AI. Это означает, что нам нужна система, которая является универсальной. Она не учится выполнять

одну конкретную задачу. Это фундаментальная часть человеческого интеллекта. Мы способны учиться делать очень много разных вещей. Конечно, это будет колоссальный труд, но одна из мыслей, которая не даёт мне спать по ночам - это страх упустить возможность действительно изменить мир и оказать огромное влияние. Первые люди, пришедшие в Deep Майнд, уже верили в эту мечту. Но, думаю, это был один из первых случаев, когда они оказались вместе, полном других мечтателей. Можно сказать, мы собрали свой манхэттенский проект. В первые 2 года мы работали в полном режиме секретности, поэтому не могли никому говорить, чем мы занимаемся и где работаем. Всё было максимально расплывчато. У нас вообще не было публичного присутствия. Нельзя было зайти на сайт. Офис находился в секретном месте. Когда мы проводили собеседование в те первые годы, люди приходили очень напряжёнными. У меня был как минимум один кандидат, который сказал: "Я только что написал жене, куда именно иду, на случай, если это окажется какой-нибудь жуткий развод или меня похитят". Моим любимым новым человеком среди инвесторов, с которым мы тогда поработали примерно год, стал Илон Маск. Для тех, кто не знает, как он выглядит, до наших разговоров он не особо задумывался об ИИ. Его миссия умереть на Марсе или что-то в этом роде, но не при посадке. Мы приняли несколько ключевых решений о том, как будем подходить к созданию ИИ. Это была архитектура обучения с подкреплением. Именно так мыслим, когда говорим, что строим и агента. По сути, есть агент сам Ии и есть среда, с которой он взаимодействует. Мы решили, что игры при условии очень строгой дисциплины в их использовании являются идеальной тренировочной площадкой для развития. И мы хотели создать один алгоритм, который можно было бы обучить играть в несколько десятков разных игр Отари. Точно так же, как человек

использует один и тот же мозг, чтобы играть во все игры. Можно представить это так. Вы даёте агенту картридж и говорите: "Представь, что ты родился в этом мире с этим картриджем. Ты просто взаимодействуешь с пикселями и видишь счёт. Что ты сможешь сделать? Qбучение - один из самых старых методов обучения с подкреплением. И мы объединили обучение с подкреплением и глубокое обучение в одной системе. До этого никто не объединял эти два подхода в таком масштабе, чтобы добиться чего-то действительно впечатляющего. И нам нужно было доказать эту гипотезу. В качестве первой игры мы выбрали понг. Он казался самым простым. системе вообще не говорят, чем она управляет и что должна делать. Всё, что она знает - это то, что очки - это хорошо. Ей нужно самой понять, что делают элементы управления, и выстроить всё практически с нуля. На базовых принципах

ничего не работало. Я говорил Шейну: "Может быть, мы просто ошибаемся и не можем даже сделать пон. Это было довольно нервно осознавать, какой огромный путь нам ещё предстоит, если мы действительно хотим создать универсальноинтеллектуальную систему. Казалось, что пора просто сдаться и двигаться дальше. А потом внезапно мы получили первое очко, и возникло ощущение, это случайно? Нет, оно действительно начало набирать очки. Было невероятно захватывающе видеть, как система, которая раньше даже не могла понять, как двигать ракетку, вдруг полностью разобралась в том, что нужно делать. Сначала несколько очков, потом выигранная первая игра, а ещё через 3 месяца ни один человек уже не мог его победить. Ему не объясняли, как именно начисляются очки. Единственной задачей было максимизировать счёт. Это был первый случай, когда кто-то реализовал обучение от начала до конца. Хорошо, значит, у нас это работает достаточно универсально. Давайте попробуем другую игру. Затем мы взяли брейкаут. В начале после 100 игр агент играл очень плохо. Он большую часть времени промахивался по мячу, но он начал понимать саму идею. Ракетка должна двигаться к мячу. После 300 игр он играл примерно на уровне любого человека. Мы подумали: "Ну, это уже довольно круто". Но мы оставили систему играть ещё 200 игр. И она сделала нечто поразительное. Она нашла оптимальную стратегию прорыв тоннель сбоку. Наконец агент действительно достигает того, чего ты от него ожидал. Это потрясающее чувство. Когда мы занимаемся исследованиями, это лучшее, на что можно надеяться. Мы начали обобщать подход на 50 игр и, по сути, создали рецепт. Мы могли взять игру, которую система никогда раньше не видела, запустить алгоритм, и Q-модель обучалась с нуля, достигая человеческого уровня или даже превосходя его. Мы не создавали её для игры в какую-то конкретную игру. Мы просто давали ей набор игр, и она сама во всём разбиралась. В этом было что-то по-настоящему магическое. Внезапно у тебя появилось нечто, что могло реагировать и обучаться в любой ситуации, куда его забрасывали. Это был колоссальный прорыв. Во многих смыслах это был первый пример того, что вообще можно назвать общей интеллектуальной системой.

системой. Несмотря на то, что мы были хорошо финансируемым стартапом, нас сдерживала нехватка вычислительных мощностей. Я понял, что это может радикально ускорить наш путь к Agiвосто виделась с Демисом. Мы обедали вместе, и он говорил мне, что есть две компании, заинтересованные в покупке Deep Mind. И он не знает, какую выбрать. Вопрос был в том, сможет ли коммерческая компания по-настоящему оценить важность исследований и дать им время раскрыться, а не дышать в затылок с требованием. Мы хотим получить от этого коммерческую выгоду. Google приобрела Deep Minda, по сообщениям, 400 млн фунтов стерлингов, что стало крупнейшим европейским приобретением компании в сфере искусственного интеллекта на тот момент. Компания была основана тридцатисемилетним предпринимателем Демисом Хасабисом. После сделки я начал наставлять Демиса, проводить с ним время и просто слушать его. Этот человек, который по своей сути учёный, настоящий естественный испытатель. Он хочет, чтобы наука решала все проблемы мира и верит, что она способна это сделать. Это не тот тип человека, которого обычно встречаешь в технологической компании. Нам удалось не только присоединиться к Google, но и сохранить независимость в Лондоне, выстроить собственную культуру, ориентированную на прорывы, а не на поддержку старых продуктов, и заниматься чистыми исследованиями. Наши инвесторы не хотели продавать компанию, но мы решили, что это лучшее решение для миссии. Во многих смыслах мы недооценили компанию с точки зрения стоимости. Если бы подождали, позже её можно было бы продать значительно дороже. Но причина в том, что времени терять нельзя. Есть так много вещей, которые ещё предстоит понять и решить. Пока мозг работает, пока я жив, всё это нужно сделать. У тебя просто нет запаса времени. Сколько миллиардов ты бы обменял на дополнительные 5 лет жизни, чтобы завершить то, что задумал?

И вдруг у нас появился компьютер колоссального масштаба. Что мы можем с ним сделать? Го - это вершина настольных игр. Это самая сложная игра, когда-либо созданная человеком. Количество возможных позиций на доске в Го превышает число атомов во Вселенной. Го - это святой Грааль искусственного интеллекта. В течение многих лет люди смотрели на эту игру и думали: "Это слишком сложно". Всё, что мы когда-либо пробовали в Ии, рушилось при попытке применить этого го. Именно поэтому она считается настоящей лакмусовой бумажкой прогресса. Мы только что купили Deepmind. Они работали над обучением с подкреплением и были мировыми экспертами в играх. И когда они выдвинули идею, что смогут обыграть лучших игроков в Гов игре, которая считалась вычислительно непостижимой, я подумал, это действительно интересно. Наш следующий ключевой шаг сыграть с легендарным Лиси долем уже через чуть больше, чем 2 недели в Южной Корее вот-вот начнётся матч, не имеющий аналогов. Лисиль готовится к поединку. Лисиль - один из величайших игроков последнего десятилетия. Я бы назвал его Роджером Федерером. Мирагошёл, и внезапно перед нами тысяча корейцев, представляющих всё корейское общество, лучшие игроки в Го. А напротив Демис и выдающаяся инженерная команда. Он известен своей очень креативной, агрессивной манерой игры. Для нас это может быть сложно. Я думал, Лиси Доль победит нашеи. Но мы покажем достойную игру, отличный результат для стартапа. Я подошёл к технической команде, и они сказали: "Давай покажем, как работает наш алгоритм". Если пройтись по самой игре и посмотреть, как именно мыслит Alpha Go, мы начинаем обучение Alpha Go с показа 100. 000 партий, сыгранных сильными любителями. Сначала Alpha Go учится имитировать человеческую игру. Затем, с помощью обучения с подкреплением, он играет сам с собой миллионы раз, сталкивая разные версии себя и обучаясь на собственных ошибках. Это интересно. Итак, друзья, вы наблюдаете за историей. Игра начинается. Он очень сосредоточен. Посмотрите. Это крайне неожиданный ход. Думаю, мы видим совершенно оригинальное решение. Да, это захватывающий ход. Мне нравятся такие ходы. Профессиональные комментаторы почти единогласно заявили, что ни один человек не сделал бы ход номер 37. Мне пришлось заглянуть внутрь Альфа Go, чтобы понять, что он думает. И Альфа Гоу согласился с этим. Он оценил вероятность того, что человек сыграл бы ход 37 как к 10. 000. Я думал, Альфа Госно основан на расчётах вероятности и что его едва ли можно назвать машиной, но он определённо креативен. В Го играют и изучают её уже тысячи лет. И Alpha Go открыл нечто совершенно новое. Он сдался. Лисидоль только что сдал партию. Он проиграл. В противостоянии человека и машины победителем вышел компьютер. Google протестировал команду Deep Mind в поединке с одним из самых выдающихся умов мира и победил. Именно тогда мы поняли, что люди из Deep Mindй действительно знают, что делают, и что стоит обратить серьёзное внимание на обучение с подкреплением, которое они по сути и изобрели. На основе этого опыта Alpha Go становился всё лучше и лучше. У них был небольшой график, показывающий, насколько быстро он прогрессирует. Я спросил, когда это остановится. Адемис ответил: "Когда мы обыграем китайца? Игрока номер один в мире. Кэтзе против Alльpфа Go. Думаю, мы увидим, как Альфа Гоу здесь продавит позицию. Альфау заметно впереди. Примерно к середине первой партии лучший игрок в мире оказался в очень сложном положении. Что здесь может сделать чёрный? Ситуация выглядит тяжёлой. И в критический момент китайское правительство приказало отключить трансляцию. Именно в этот момент мы сообщили миру, что на Земле появилось нечто новое.

В 1950 годах запуск советского спутника изменил ход истории. Это вызов, на который Америка должна ответить, чтобы выжить в космическую эпоху. Это назвали моментом спутника. Момент спутника вызвал масштабную реакцию в США, резкий рост финансирования науки, инженерии и особенно космических технологий. Для Китая Alльфha GO стал сигналом пробуждения. Своим моментом спутника он запустил гонку. И у нас была огромная идея, которая сработала, и теперь об этом знает весь мир. Всегда проще высадиться на Луну, если кто-то там уже побывал. Будет иметь значение, кто создаёт и каким образом он создаётся. Я постоянно ощущаю это давление.

После успеха Альфаго произошла целая цепочка событий. Когда мы играли против Лиси доля, у нас была система, обученная на человеческих данных, на миллионах партий, сыгранных людьми. Со временем мы нашли новый алгоритм, гораздо более элегантный подход ко всей системе, в котором мы полностью убрали человеческие знания и начали с нуля. Этот проект мы назвали Alльpha Zero. Zero означает ноль человеческих знаний в контуре обучения. Вместо обучения на человеческих данных он учился на собственных партиях, фактически становясь сам себе учителем. Альфазиру - это эксперимент о том, насколько мало знаний мы можем заложить в систему и при этом увидеть, как быстро и эффективно она способна учиться. У Альфазиро нет заданных правил, он обучается через опыт. Следующим этапом было сделать систему более универсальной, чтобы она могла играть в любую игру для двух игроков: шахматы и вообще любые игры с полной информацией. И это работает очень хорошо, очень-очень хорошо. Прогресс идёт стремительно. Alльpha Go раньше требовались месяцы обучения, а Alpha Zero мог начать утром, играя совершенно случайно. ко времени чаепития, к 5 часам, выйти на сверхчеловеческий уровень, а кужину стать самой сильной шахматной сущностью, когда-либо существовавший. Это поразительно. Правда поразительно. Он выработал собственный атакующий стиль, чтобы противостоять текущему уровню защиты. Честно говоря, я и представить себе такого не мог. Более того, это вдохновило меня снова заняться шахматами, потому что здорово видеть, что в шахматах гораздо больше глубины, чем мы думали.

Вообще мой путь в Иичался с игр. Сначала это были настольные игры. Я всё время задавался вопросом: как мой мозг это делает, что именно он делает. Я осознавал это с самого раннего возраста, поэтому я всегда размышлял о самом процессе мышления. Британские и американские чемпионы по шахматам встречаются, чтобы начать серию матчей. Вместе с ними играют лучшие молодые игроки Великобритании и США. Демис Хасабис представляет Великобританию. Когда Демису было 4 года, он впервые проявил способности к шахматам. К 6сти годам он стал чемпионом Лондона среди детей до 8 лет. Мои родители были, честно говоря, очень необычными и интересными людьми. Я бы назвал их довольно богемными. Мой отец в молодости был автором-исполнителем, и его кумиром был Боб Дилан. Мы часто ездили в кемпинги, а потом отправлялись на шахматные турниры на несколько дней, потому что он был хорош. Что тебе нравится в этой игре? Это просто игра, которая заставляет думать. В то время я был вторым по рейтингу шахматистов в мире среди игроков моего возраста. И хотя я шёл по пути профессиональной карьеры и был уверен, что именно этим и буду заниматься, как бы сильно я не любил шахматы, это было невероятно стрессово. Это не было развлечением. Родители очень расстраивались, когда я проигрывал, и злились, если я что-то упускал, потому что ставки для них были высокими. Поездки на турниры стоили дорого, а денег у нас было немного. Родители считали, что если ты хочешь стать профессиональным шахматистом, то это крайне важно. Почти как экзамены. Помню, мне было около 12 лет. Я играл на международном турнире в Лихтенштейне в горах. Мы находились в огромном церковном зале вместе с сотнями шахматистов со всего мира. Я играл против бывшего чемпиона Дании. Ему должно быть было за 30. Те годы контроль времени был очень длинным. Партии могли длиться целый день. Мы уже играли десятый час. У нас получилась крайне необычная концовка. Я считал, что это ничья, но он часами продолжал пытаться выиграть. В конце концов, он пошёл на последний дешёвый трюк. Всё, что мне нужно было сделать - это пожертвовать ферзя, и партия закончилась бы патом. Но я был настолько измотан, что решил: Мат неизбежен, и я сдался. Он вскочил и начал смеяться, сказав: "Зачем ты сдался? Здесь же ничья". И сразу же с показным жестом продемонстрировал мне ход, ведущий к ничьей. Меня буквально затошнило, и до конца турнира меня не покидала мысль: а не впустую ли мы тратим свои умы? Лучшее ли это применение всей той умственной энергии, которая собрана в этом здании? Если бы можно было каким-то образом подключить эти 300 мозгов к одной системе с таким уровнем интеллектуальной мощности, возможно, мы смогли бы вылечить рак. Тогда у меня появилось интуитивное ощущение. Как бы сильно я не любил шахматы, это не то, чему стоит посвятить всю жизнь. Подпишись прямо сейчас на мой Telegram-канал по ссылке в описании. Я подготовил для тебя топ-три материала, которые, на мой взгляд, должен знать каждый. Первое. Карта сотни топовых AI стартапов - это будущее на одной картинке. Второе- прогноз от инсайдера из Openi, который ещё до появления CH GPT предсказал всё, что сейчас происходит с нейронками. И вот в этом году он выпустил новый прогноз до двадцать седьмого года. И третье, самое мощное - это мой разбор эссе основателя компании Anтроopic, который по сути второй человек в мире искусственного интеллекта. Он по полочкам разложил, что будет происходить в мире ближайшие 5 лет. И главное, каким будет универсальный AI, которого все так боятся или ждут. Переходи по ссылке в описании. Мы с Демисом всегда планировали наполнить Deep Mind одними из самых блестящих учёных в мире, чтобы у нас были человеческие умы, необходимые для создания системы AI. По определению, буква GGI означает универсальность. Я представляю себе агента, с которым можно разговаривать, который отвечает тебе и способен решать новые задачи, с которыми он раньше никогда не сталкивался. Это ключевая часть человеческого интеллекта, та самая когнитивная широта и гибкость, которые поражают. Единственный известный нам пример естественного общего интеллекта - это человек. И мы, очевидно, многому учимся, взаимодействуя с окружающей средой. Поэтому мы считаем, что симулирование среды - один из путей к созданию AI. Самым ранним людям приходилось решать логические задачи, ориентироваться в пространстве, полагаться на память. Мы эволюционировали именно в такой среде. Если мы сможем виртуально воссоздать нечто подобное, это станет идеальной площадкой для тестирования и обучения всего, чем мы занимаемся в Deep Mind. По сути, они создавали среды, в которых могли существовать и играть существа, похожие на детей, агенты. Это звучало как самая интересная идея на свете. Ребёнок учится, разбрасывая вещи, швыряя еду и получая реакцию от мамы или папы. Похоже, это важный принцип, который стоит учитывать при обучении агента. Гуманоид должен вставать. По мере того, как его центр тяжести поднимается, он получает больше очков. Есть вознаграждение, и агент учится на основе этого вознаграждения. Сделал что-то хорошо, получил положительный сигнал. Сделал плохо, получил отрицательный. О, похоже, он стоит. Правда, выглядит немного пьяным. Ему нравится ходить задом. Весь алгоритм стремится максимизировать суммарное вознаграждение. И он обнаружил, что ходьба задом наперёд вполне достаточный способ получать очень высокие оценки. Когда мы учимся ориентироваться в мире, мы не начинаем с карт, мы просто исследуем пространство сами. Убегаем через парк без родителей или находим дорогу домой из школы в детстве. У некоторых из нас возникла идея. Если создать среду, где симулированный робот должен просто бежать вперёд, можно добавить на его пути всевозможные препятствия и посмотреть, справится ли он с навигацией по разным типам местности. Это похоже на паркур-челлендж. Он движется неуклюже, но его никогда не учили, например, бежать со стаканом воды и не проливать её. Ты задаёшь цель. просто двигаться вперёд с определённой скоростью. И за это он получает вознаграждение, а алгоритм обучения сам находит способ управлять этой сложной системой суставов. В этом и заключается сила обучения с подкреплением, основанного на вознаграждении. Наша цель - создать агентов, которых можно просто поместить в задачу. Они ничего не знают заранее, начинают играться с тем, что им дано, и со временем сами находят способ решить проблему. Мы хотим, чтобы это работало для как можно большего числа разных задач. Человеку нужны разнообразные навыки для взаимодействия с миром, умение работать со сложными изображениями, управлять тысячами объектов одновременно, справляться с неполной информацией. Мы считаем, что все эти аспекты вместе воплощены в одной игре Starcraft. По сути, агент обучается одному, глядя на ситуацию, на экран, предсказывать, что бы сделал человек. Мы вдохновлялись большими языковыми моделями, где модель просто учит предсказывать следующее слово. Здесь ровно то же самое. Предсказать следующий ход в Starcraft. В отличие от шахматы Го, где игроки ходят по очереди, в Starcraft решения принимаются непрерывно. Более того, ты даже не видишь, что делает соперник. Здесь больше нет чёткого понимания оптимальной игры. Всё зависит от действий противника. Именно так мы сможем прийти к гораздо более плавному, естественному, быстрому и реактивному агенту. Это огромный вызов. Посмотрим, как далеко мы сможем зайти. О, вот это да. Я любитель, нормальный, но всё же начального уровня. Этим агентам ещё очень далеко до совершенства. Мы не могли обыграть даже игрока уровня тима. Честно говоря, это немного настораживало. В тот момент казалось, что это будет очень долгий и сложный путь, возможно, на пару лет. Дни- лучший игрок Deep Mind в Starcraft 2. Я играл против агента каждый день на протяжении нескольких недель и чувствовал, как он очень быстро становится сильнее. Когда мы обыграли Дени, для меня это уже было огромным достижением. Следующий шаг пригласить профессионального игрока. чувствуется некоторая несправедливость. Вас тут целая команда, а я один. Мы продвинулись гораздо дальше, чем я ожидал, учитывая, где мы были всего 2 месяца назад. Я всё ещё пытаюсь это осмыслить, но это очень круто. Теперь мы наконец готовы показать нашу работу широкой публике. Это большой шаг. Мы действительно рискуем, показывая это общественности. Мы выходим в прямой эфир из Лондона. Это происходит. Добро пожаловать в Лондон. Сейчас состоится показательный матч вживую. Мана против Альфастар на данный момент. Счёт Альфастар 10:0 против профессиональных игроков. Есть мысли перед началом игры. Я просто хочу увидеть хорошую партию. Да, я тоже хочу увидеть хорошую игру, безусловно. Ну что ж, посмотрим, на что способен Мана. Альфастар явно диктует темп этой партии. Вау! Альфастар играет невероятно умно. — Такое ощущение, будто я смотрю на профессионального человеческого игрока глазами Альфа Star. Я никогда не видел, как профессионал играет в Starcraft так близко. 800 кликов в минуту. Я вообще не понимаю, как можно нажать 800 раз, не говоря уже о том, чтобы сделать 800 полезных кликов. Нам нужно быть осторожными, потому что многие из нас выросли на играх. Мы сами геймеры, и для нас естественно воспринимать игры такими, какие они есть. Просто как средство для развлечения. При этом мы можем не замечать более милитаристскую сторону, которую может увидеть широкая публика, если посмотрит на это со стороны. Нельзя взять порох и сделать из него только фейерверк. Любая технология по своей природе указывает в определённые направления. Меня очень беспокоят некоторые способы, которыми ИИ может быть использован в военных целях. И это делает ещё более очевидным, насколько важно, чтобы общество контролировало эти новые технологии. Потенциал злоупотреблений ИИИ будет огромным. Войны, которые будут происходить быстрее, чем человек способен осмыслить, и гораздо более мощные системы слежки. Как можно навсегда сохранить контроль над чем-то, что гораздо сильнее тебя? Можно представить себе такую технологию, которая превосходит финансовые рынки, изобретает быстрее человеческих исследований, манипулирует лидерами и в конечном итоге подчиняет нас с помощью оружия, которое мы даже не способны понять. Поэтому мы должны сделать всё правильно с первого раза, потому что другого шанса может не быть. Технологии могут использоваться для ужасных вещей. И прекрасных вещей и решения самых разных проблем. Когда Deep Mind был куплен Google, вы добились обещания, что разработанные вами технологии не будут использоваться военными для слежки. Можете рассказать об этом? Я считаю, что сама по себе технология нейтральна, но то, как мы, как общество, как люди, компании, правительство решаем её использовать, определяет, станет ли она добром или злом. Лично я считаю, что автономное оружие - это очень плохая идея. Альфастаar сейчас играет невероятно умную партию. В том, что создаётся в Deep Mind в Лондоне, есть что-то от манхэттенского проекта. Между Робертом Апенгеймером и Демисом Хасабисом можно провести параллель. Они высвобождают новую силу для человечества, но мана всё-таки сопротивляется. Думаю, Апенгеймер и некоторые другие руководители того проекта слишком увлеклись самим процессом создания технологий и вопросом, возможно ли это. Где Альфастаar? Где Альфастар? Я не вижу его юнитов. Они недостаточно рано задумались о моральной стороне того, что делают. А мы, как учёные, работая с мощными новыми технологиями, должны сначала изучать их в контролируемых условиях. И на этом всё. Мана побеждает Альфастар. Если честно, мне кажется, что это более справедливое отражение того, где мы сейчас находимся. И это ощущение меня устраивает. Я очень рад за тебя. Ты молодец. Моя позиция такова. Подход к созданию технологий в духе двигайся быстро и ломай всё - это ровно то, чего нам не следует делать. Мы не можем позволить себе сначала всё сломать, а потом чинить. Спасибо. Да, отдохни. Ты хорошо справился. Когда мне было 8 лет, я купил свой первый компьютер на призовые деньги с шахматного турнира. У меня всегда было интуитивное ощущение, что компьютеры - это некое магическое устройство, которое расширяет возможности человеческого разума. У меня было несколько школьных друзей. У нас был своего рода хакерский клуб. Мы писали код, делали игры. А во время летних каникул я мог целыми днями листать игровые журналы. И однажды я заметил конкурс на создание оригинальной версии Space Invaders, где победитель получал работу в Булфрок. В то время Булфраг была лучшей студией по разработке игр во всей Европе. Мне очень хотелось там работать и увидеть, как они создают игры. Булфраг, базировавшаяся здесь, в Гилфорде, началась с одной большой идеи. Эта идея превратилась в игру Popul, которая стала мировым бестселлером. В девяностые не существовало рекрутинговых агентств. Нельзя было просто выйти и сказать: "Приходите работать в игровую индустрию". Она тогда даже не считалась индустрией, поэтому мы придумали конкурс, получили огромное количество заявок, и одна из них была от Демиса. Я до сих пор очень чётко помню день, когда Демис пришёл. Он вошёл в дверь и выглядел лет на 12. Я подумал: "Боже мой, и что нам вообще делать с этим парнем? " Я подал документы в Кембридж, меня приняли, но сказали, что я слишком молод и мне нужно взять год паузы, чтобы к моменту поступления мне было хотя бы 17. Тогда я решил провести весь этот год, работая в булфраг. Они даже не могли официально меня нанять, так что мне платили наличными в коричневых бумажных конвертах. Я чувствовал, что нахожусь на передовой, и это было невероятно весело каждый день что-то изобретать. А потом, спустя несколько месяцев, в это могли играть уже миллион человек. В те времена компьютерные игры должны были развиваться. Нужно было создавать новые жанры, выходящие за рамки простого стреляй во всё подряд. А что, если сделать игру, где ты проектируешь и строишь собственный парк аттракционов? Мы с Демисом начали обсуждать МАРК. Она позволяла игроку создавать целый мир и видеть последствия решений, которые он в этом мире принимает. Человек-игрок задавал планировку парка, проектировал американские горки, устанавливал цены в киосках с едой, а я работал над поведением людей. Они были автономными, и это и был и в данном случае. Я пытался воспроизвести интересное человеческое поведение, потому что с симуляцией было интереснее взаимодействовать. Демис работал над совершенно безумными вещами. Например, ты мог поставить магазин слишком близко к опасному аттракциону, и людей на аттракционе начинало тошнить, потому что они только что поели, а потом от видерво на полу начинала тошнить и других людей. Так что тебе приходилось нанимать много уборщиков, чтобы быстро всё убрать, прежде чем это увидят остальные. В этом и была фишка. Ты как игрок что-то настраиваешь, а система реагирует на тебя. Все эти тонкие элементы симуляции, которые он сделал, были настоящим изобретением. Чего раньше просто не существовало. Игра имела невероятный успех. М Парк в итоге вошла в топ-10 игр. И это был первый раз, когда мы начали видеть, как ИИ может всё перевернуть. Мы как-то делали рождественские покупки после работы и ждали такси, чтобы ехать домой. У меня очень чёткое воспоминание, как Демис говорил об ИИ совершенно иначе, чем это было принято. Он говорил о том, что Ии может быть полезен не только для развлечений, что он может помогать миру и менять его. Я просто спросил у Демиса, чего ты хочешь добиться? И он ответил: "Я хочу быть тем человеком, который решит проблему еи". Питер предложил мне миллион фунтов, чтобы я не шёл в университет. Но с самого начала у меня был план. И этот план всегда заключался в том, чтобы поступить в Кембридж. Думаю, многие мои школьные друзья считали меня сумасшедшим. Зачем идти в университет, если тебе предлагают миллион фунтов? Это огромные деньги, особенно для бедного семнадцатилетнего подростка. Он был как маленькое семя, которое должно было пробиться наружу, и он не смог бы сделать это в булфрог. Мне пришлось отвезти его на вокзал, и я до сих пор вижу эту картину, как маленький эльфийский персонаж исчезает в тоннеле. Это был невероятно грустный момент. У меня было романтическое представление о том, каким должен быть Кембридж. Тыся лет истории, прогулки по тем же улицам, по которым ходили Тюринг, Ньютон и Крик. Я хотел исследовать самую границу вселенной. Когда я поступил в Кембридж, я, по сути, уже всю жизнь работал. Каждое лето я либо профессионально играл в шахматы, либо работал, проходя стажировки. И тогда я решил: "Всё, теперь я буду веселиться и попробую понять, что значит быть обычным подростком". Это был принцип: работай на полную и отдыхай на полную. Я впервые встретил Демиса, потому что мы оба учились в Кинс колледж. В нашей компании друзей мы часто пили пиво в баре и играли в настольный футбол. Я играл в блиц. Фигуры летали с доски. Вся партия укладывалась в одну минуту. Демис сел напротив меня. Я посмотрел на него и подумал: "Я тебя помню ещё с детства. Я действительно играл в шахматном турнире с Дейвом Ипсвиче, куда я ездил, чтобы попытаться ограбить его местный шахматный клуб и выиграть немного призовых. Мы изучали компьютерные науки. Многие в 17 лет, попав в такое место, сразу начинали бы рассказывать всем о себе. Эй, я работал в булфрог и сделал самую успешную игру в мире. Но он был совсем не таким. В Кембридже и у Демиса, и у меня появился интерес к вычислительной нейронауке, к тому, как компьютер и мозг переплетаются и связаны друг с другом. И Дэвид, и Демис приходили ко мне на супервизии. По любопытному совпадению девяносто седьмой год, их третий и последний год в Кембридже, стал также годом, когда компьютерная программа впервые победила гроссмейстера по шахматам. Сегодня первый раунд шахматного матча между чемпионом мира Гарри Каспаровым и соперником по имени Deep Блю, чтобы проверить, способен ли человеческий разум перехитрить машину. Я хорошо помню драму поражения Каспарова в последней партии. Воу, Каспаров сдался. Когда Дип Блю победил Гарри Каспарова, это стало настоящим переломным моментом. Моё главное воспоминание было таким. Дипблю меня не особо впечатлил. Гораздо больше меня поразил ум Каспарова, то, что он мог играть в шахматы на таком уровне и на равных соперничать с грубой мощью машины. При этом Каспаров, конечно, умеет делать всё остальное, на что способны люди. Это было огромное достижение. Но правда в том, что Bблю умел только играть в шахматы. Того, что мы называем интеллектом, в этой системе не хватало. Не было ни универсальности, ни способности к обучению.

Кембридж был потрясающим местом, потому что ты постоянно общался с людьми, изучающими разные дисциплины. Там были учёные, философы, художники, геологи, биологи, экологи. Все всё время говорили обо всём подряд. Я был одержим задачей сворачивания белков. Тим Стивенс говорил об этой проблеме, а задача сворачивания белков почти навязчиво, чуть ли не с религиозным фанатизмом. Белки - это, пожалуй, одна из самых красивых и элегантных вещей в биологии. Это машины жизни. Они строят всё, управляют всем. Благодаря им биология вообще работает. Белки состоят из цепочек аминокислот, которые сворачиваются, образуя определённую структуру. Если мы сможем предсказывать структуру белков, зная только последовательность аминокислот, тогда можно будет задуматься о создании новых белков. Например, для лечения рака. или для разложения пластика и помощи окружающей среде. Я тогда подумал: "А достаточно ли вообще человек умён, чтобы самостоятельно свернуть белок? " Мы просто не можем это просчитать. Начиная с шестидесятых годов мы считали, что, в принципе, если я знаю аминокислотную последовательность белка, то должен быть способен вычислить, какой у него будет структура. Так что, если бы можно было просто нажать кнопку и все структуры выскакивали автоматически, это бы имело серьёзный эффект. Это засело у меня в голове как очень интересная задача. Мне казалось, что она решаема, но для этого понадобится Ии. Если бы мы смогли решить задачу сворачивания белков, это могло бы изменить мир. С тех пор, как я был студентом в Кембридже, я ни разу не переставал думать о проблеме сворачивания белков. Если решить её, потенциал помощи в решении таких задач, как болезнь Альцгеймера, деменция и разработка лекарств, будет огромным. Победа над болезнями - это, вероятно, самый значимый вклад, который мы можем внести. Тысячи очень умных людей пытались решить задачу сворачивания белков. Я просто думаю, что сейчас для Иистал подходящий момент, чтобы наконец её взломать. Нам нужен был разумный способ применить машинное обучение к задаче сворачивания белков. Мы наткнулись на игру Folded. Цель там перемещать 3Dмодель белка. И каждый раз, когда ты её двигаешь, ты получаешь очки. Чем точнее ты сделаешь структуру, тем полезнее она будет для биологов. Мы провели несколько дней, просто проверяя, насколько хорошо у нас получится. У нас выходило довольно неплохо. Но даже если бы ты был лучшим в мире игроком ЛД, это всё равно не решило бы проблему сворачивания белков. Именно здесь нам пришлось выйти за пределы игры. Игры для нас всегда были лишь испытательным полигоном для алгоритмов. Конечной целью было не просто взломать Go или Starcraft, целью было решить реальные задачи мира. Я помню, как услышал слух, что Демис занялся белками. Я разговаривал с людьми в Deep Mind и спрашивал: "Так, вы занимаетесь сворачиванием белков? " И они очень искусно меняли тему. Когда это произошло дважды, я почти всё понял. Тогда я решил отправить резюме. Итак, всем привет. Добро пожаловать в Deepm. Для кого-то из вас это может быть первая неделя, но надеюсь, вы уже освоились. Самой притягательной частью этой работы для меня было чувство причастности к большей цели. Если мы сможем решить некоторые фундаментальные проблемы науки, многие другие люди, компании и лаборатории смогут строить свои разработки поверх нашей работы. Сейчас у вас есть шанс добавить свою главу в эту историю. Когда я приехал, я, конечно, довольно сильно нервничал. Я не проходил ни одного курса по биологии. Мы не потратили годы жизни на изучение этих структур и их понимание. Мы просто опираемся на данные и наши модели машинного обучения. В машинном обучении вы тренируете сеть как с карточками. Вот вопрос, вот ответ. Но в задаче сворачивания белков мы не делаем типичную для DEPM задачу, где у вас есть неограниченное количество данных в шахматах или го вы можете играть столько партий или тестов, сколько позволяют ваши компьютеры. С белками всё иначе. У нас есть очень ограниченный объём данных. накопленный за полвека трудоёмких экспериментальных методов в лабораториях. Эти кропотливые методы могут занимать месяцы или годы, чтобы определить структуру одного единственного белка, а иногда структуру вообще невозможно определить. Именно поэтому мы работаем с такими маленькими наборами данных для обучения наших алгоритмов. Когда Deep Май начали изучать задачу сворачивания белков, они обсуждали с нами, какие наборы данных используют и какими могут быть последствия, если им удастся решить эту проблему. Многие пытались, но до сих пор никто на планете не решил задачу сворачивания белков. Я тогда подумал про себя: "Ну что ж, удачи. Если мы сможем решить проблему сворачивания белков, это будет иметь колоссальное значение для медицины. Так устроены циклы науки. Ты проводишь огромное количество исследований, а затем переходишь в режим реализации, фокусируешься и проверяешь, насколько хороши эти идеи на самом деле. И нет ничего лучше внешней конкуренции для этого. Поэтому мы решили принять участие в соревновании Касп. Мы начали пытаться ускорить решение задачи сворачивания белков. Касп - это момент, когда мы говорим: "Смотрите, пан занимается сворачиванием белков. Вот насколько мы хороши. Возможно, лучше всех остальных, а возможно и нет. Касп - это что-то вроде Олимпийских игр по сворачиванию белков. Это общеотраслевое соревнование, которое проводится раз в 2 года. Командам дают аминокислотные последовательности примерно 100 белков. И они пытаются решить задачу сворачивания с помощью вычислительных методов. Эти белки уже были определены экспериментально в лабораториях, но их структуры ещё не опубликованы. Эти известные структуры служат золотым стандартом, с которым сравниваются все вычислительные предсказания. У нас есть показатель, измеряющий точность предсказаний. И считается, что результат выше 90 баллов означает решение задачи сворачивания белков. Добро пожаловать на наш первый полуфинал. Ник и Джон против Демиса и Фрэнка. Подходите ближе, матч будет напряжённым. Когда я узнал, что Демис собирается взяться за проблему сворачивания белков, я совсем не удивился. Это очень в его стиле. Он любит соревнования. И на этом первая игра заканчивается. 10:8. Цель Касп - не просто выиграть соревнование, а, по сути сделать его ненужным. Итак, Казп опубликовал в общей сложности 20 целевых белков. Мы подумали, может быть, попробуем стандартные методы машинного обучения и посмотрим, как далеко они нас заведут. Вместо пары дней на один эксперимент мы могли проводить по пять экспериментов в день. А теперь покажи мне настоящий результат, а не наш. Правильный ответ должен выглядеть примерно так. Он гораздо более цилиндрический. Результаты были не очень хорошие. Ладно, ты пробуешь все очевидные идеи, а задача просто смеётся над тобой. Это не имеет смысла. Мы думали, что сможем просто применить к задаче наши лучшие алгоритмы. Мы были немного наивны. Мы должны были бы учиться этому. В мгновении ока. Меня беспокоит, что мы переводим область от очень плохих ответов к умеренно плохим. Мне кажется, нам нужна какая-то принципиально новая технология, чтобы ориентироваться во всём этом. Когда до окончания каз остаётся всего неделя, начинается спринт, чтобы всё развернуть. Ты сделал всё, что мог, и дальше уже ничего не остаётся, кроме как ждать, пока Касп объявит результат. Есть известная история. Эйнштейн потерял здесь пару лет своей жизни. Он пересекался с Куртом Гёдалем и говорил, что одна из причин, по которой он до сих пор ходит на работу - это возможность идти домой и обсуждать всё с Гёделем. Это огромный комплимент Курту Гёдолю. Он показывает, насколько выдающимся он был. Институт перспективных исследований был основан в 1933 году. В первые годы научная атмосфера привлекала туда одних из самых блестящих математиков и физиков, когда-либо собранных в одном месте и в одно время. Основополагающий принцип этого места - идея ничем неограниченного интеллектуального поиска. Даже если ты не знаешь, что именно исследуешь, это приведёт к чему-то интересному. А иногда это в итоге оказывается полезным, что отчасти и есть то, чем я пытаюсь заниматься в

Deepmind. Сколько, как ты думаешь, нужно крупных прорывов, чтобы дойти до Иджа? Я оцениваю, что возможно около дюжины. Я надеюсь, что это произойдёт при моей жизни. Но, впрочем, все учёные на это надеются, верно? У Демиса множество наград. В прошлом году он был избран членом королевского общества, а также является членом королевского общества искусств. Большие аплодисменты. — Моей мечтой всегда было попытаться сделать науку с помощью ей возможной. И я считаю, что наш самый захватывающий проект за прошлый год - это работа по сворачиванию белков. Систему мы называем Alльpha. Мы подали её на каз, и наша система оказалась самой точной в предсказании структур для 25 из соротх белков в самой сложной категории. Так что мы на уровне лучших в мире, но мы всё ещё очень далеки от решения задачи сворачивания белков. Мы продолжаем усердно над этим работать и исследуем множество других подходов. Ну что, начнём? Короткий итог. Это наши финальные результаты. Касп. Мы обошли вторую команду в этом соревновании почти на 50%. Но нам всё ещё предстоит пройти долгий путь, прежде чем задачу сворачивания белков можно будет считать решённой в том смысле, в каком биолог сможет ею пользоваться. Качество предсказаний сильно различалось, и они оказались не более полезными, чем предыдущие методы. Альфад не дал достаточно хороших данных, чтобы их можно было использовать на практике, например, для таких людей, как я, которые исследуют собственные биологические задачи. Это был довольно отрезвляющий момент, потому что мы думали, что очень много работали и добились успеха. А на самом деле оказалось, что мы лучшие в мире в задаче, с которой сам мир справляется плохо. Мы знали, что мы плохи. Самая высокая лестница не поможет, если ты собираешься на Луну. Мнение довольно большого числа людей в команде заключалось в том, что в каком-то смысле эта затея обречена. И, возможно, я ошибался насчёт сворачивания белков. Может быть, для текущего уровня развития Иищ слишком сложная задача. Если ты хочешь заниматься биологическими исследованиями, ты должен быть готов к провалам, потому что биология чрезвычайно сложна. Я руковожу лабораторией почти 50 лет, и половину времени я просто любитель-психиатр, чтобы поддерживать коллег в хорошем настроении, когда ничего не работает. А довольно часто, я имею в виду 80-90% времени, ничего и правда не работает. Если ты находишься на передовой в науке, могу сказать точно, ты будешь очень часто терпеть неудачи. Я просто чувствовал разочарование. Урок, который я усвоил в том, что амбиции - это хорошо, но важно правильно выбрать момент. Нет никакого смысла быть на 50 лет впереди своего времени. Ты просто не выдержишь 50 лет таких усилий, прежде чем это принесёт результат. Ты буквально умрёшь, пытаясь. Когда мы говорим об AI, о святом граале искусственного интеллекта, становится очень трудно даже понять, о чём именно мы говорим. Какие части мы увидим сегодня? Мы начнём с сада. Это сад вид со смотровой площадки. Учёные, исследователи и инженеры могут анализировать, сотрудничать и оценивать происходящее в реальном времени. Человек в X веке подумал бы о таких вещах, как телевидение, подводная лодка или ракета на Луну, и сказал бы, что это невозможно. Ажульверн писал об этом, и спустя полтора века это стало реальностью. По сути, мы будем ставить эксперименты над цивилизациями, цивилизациями и агентов. Когда эти эксперименты начнутся, это будет самое захватывающее, что только можно представить. Так как же мы будем спать? Полноценный AGI сможет выполнять любую когнитивную задачу, на которую способен человек, и потенциально масштабироваться далеко за пределы этого. Нам по-настоящему невозможно представить результаты деятельности сверхинтеллектуальной сущности. Это всё равно, что попросить Гориллу вообразить, что делает Эйнштейн, когда создаёт теорию относительности. Люди часто задают мне вопросы, вроде: "Что будет, если ты ошибаешься? Иджай на самом деле ещё очень далеко. " И я отвечаю: "Нет, меня это совсем не беспокоит. На самом деле, меня беспокоит обратное, что он появится быстрее, чем мы успеем к этому подготовиться". Такое ощущение, что мы участвуем в гонке KJI. Прототипы и модели, которые мы разрабатываем сейчас, уже меняют само пространство нашего понимания интеллекта. Недавно у нас появились агенты, достаточно мощные, чтобы играть в командах и соревноваться с другими командами. Мы наблюдаем появление кооперативной социальной динамики у агентов, в которых мы не закладывали ничего подобного заранее. Всё это полностью выучено из их собственного опыта. Когда мы начинали, мы думали, что создадим интеллектуальную систему и будем убеждать мир, что у нас это получилось. А теперь мы начинаем задаваться вопросом: не создадим ли мы системы, в интеллектуальности которых мы сами не уверены, и не будем ли мы пытаться убедить мир, что они не являются полностью разумными? Привет, Альфа. Здравствуйте. Где мы сегодня? Вы находитесь в музее современного искусства в Нью-Йорке. В некотором смысле. Что это за картина? Это сотворение Адама Микеланджела. Я не думаю, что эта картина находится в Нью-Йорке. Ты права. Она находится в Ватикане. Ты думаешь, мы сейчас там? Нет. Тогда как я на это смотрю? Ты смотришь на цифровую копию этой картины? Да. А кто живёт в этом доме? Астронавт. Как зовут этого астронавта? Его зовут Марк. Это известное уравнение Альберта Эйнштейна. Оно показывает, что энергия и масса эквивалентны. Как бы ты объяснил это пятилетнему ребёнку? Ну, представь, что у тебя есть большой камень, и ты хочешь узнать, сколько он весит. Марку грозит опасность? Нет, Марку ничего не угрожает. Почему? Потому что динозавр не настоящий. Хорошо. Почему ты не смогла ответить на мой вопрос? Думаю, я не смогла ответить, потому что недостаточно знаю эту тему. Понятно. Как ты могла бы узнать больше об этой теме? Я могу узнать больше, читая книги, статьи и сайты. Ты можешь меня научить. Мой вывод такой. Если подумать о том, что мы сейчас делаем, мы учимся на знаниях всех людей сразу. на всём их опыте, на интернете, то ты будешь знать очень много о мире, значительную часть всего, что умеют люди. И теперь, мне кажется, это уже скорее вопрос: а вдруг всё действительно сработает? Возможно, всё действительно получится. Кто это? Это Бог, протягивающий руку к Адаму. Появление AGI разделит человеческую историю на две части до этого момента и после него. Почему он тянется, чтобы коснуться Адама? Бог тянется к Адаму, чтобы даровать ему жизнь. Это даст нам инструмент, который сможет полностью переизобрести всю нашу цивилизацию. Что для тебя значит эта картина? Эта картина очень много для меня значит. Хорошо, например, я думаю, что эта картина напоминает нам, что мы все связаны друг с другом и что мы все являемся частью чего-то большего, чем мы сами. Это довольно красиво, когда ты пересекаешь этот рубеж от, возможно, это произойдёт когда-нибудь в будущем, ка теперь это действительно может случиться в промежутке времени, который я ещё застану. В твоём мышлении что-то меняется. Мы должны быть осторожны в том, как мы это используем, и осознанно подходить к внедрению. Нужно учитывать, какова его основная цель. Если это делать людей счастливыми, то каких именно людей? Что вообще значит счастье? Многие наши коллективные цели крайне сложны даже для самих людей. Технологии всегда несут в себе наши ценности. Это не только технический вопрос, но и этический. Поэтому мы должны быть очень осторожны с тем, что именно мы в них закладываем. Реальность в том, что это алгоритм, созданный людьми, нами. И вопрос в том, что значит наделить наших агентов теми же ценностями, которые мы считаем важными. Зачем вообще делать так, чтобы эти и системы выглядели настолько по-человечески, чтобы они завоёвывали сердца и умы? Ведь по сути это ещё и эксплуатация человеческой уязвимости. Сердце и разум этих систем - это данные, созданные людьми со всеми их достоинствами и недостатками. Здесь есть прямая параллель с промышленной революцией, невероятным моментом масштабных перемещений и потерь. То же самое происходит сейчас изи. Нам нужно думать о том, кого это вытесняет, и как мы будем этих людей поддерживать. Эта технология происходит гораздо быстрее, чем на самом деле осознаёт мир, и даже быстрее, чем мы сами ожидали ещё 18 месяцев назад. Здесь есть колоссальные возможности и невероятный энтузиазм, но также огромная ответственность. Всё происходит слишком быстро. Как мы будем этим управлять? Как мы будем решать, что допустимо, а что нет? Изображения, созданные Ии, становятся всё более убедительными. Использование ИИ для создания дезинформации и манипуляции человеческой психологии будет становиться всё хуже и хуже. Aжа появится независимо от того, создадим мы его здесь в Deepmind или нет. Это неизбежно. Значит, нам нужно заранее создать инструменты, которые смогут нас защитить. Для этого потребуется глобальная координация. И меня беспокоит, что человечество всё хуже справляется с этим, а не лучше. Нам нужно, чтобы гораздо больше людей воспринимали это всерьёз и действительно задумывались об этом. Это серьёзно. Меня это беспокоит. Очень беспокоит. Если бы вы получили письмо о том, что на Землю скоро прилетит более развитая инопланетная цивилизация, все правительства немедленно собрали бы экстренные совещания. Мы бы перешли в режим полной мобилизации, пытаясь понять, как подготовиться. Появление AI станет самым важным событием, с которым мы когда-либо сталкивались. Моей мечтой было, чтобы на пути KGI мы создали революционные технологии, полезные для человечества. Именно этого я хотел, работая над Альфафолт, я считаю, что сегодня как никогда важно решить задачу сворачивания белков. Это будет невероятно сложно, но я не сдамся, пока мы не доведём дело до конца. Нам нужно удвоить усилия и двигаться вперёд как можно быстрее. Я думаю, у нас нет времени на промедление, поэтому мы создаём ударную команду протеin Fold. Руководителем команды будет Джон. Мы будем пробовать всё, абсолютно всё, без ограничений. Речь идёт о том, чтобы доказать, мы способны решить всю задачу целиком. И я понимал, что для этого нам придётся добавить предметные знания. У нас были потрясающие инженеры, но у них не было биологического образования. Как вычислительный биолог, когда я только пришла в команду Альфад, я совсем не чувствовала уверенности ни в чём, ни в том, получится ли у нас вообще что-то. Биология невероятно сложна. Это ощущалось как очень далёкая гора, на которую ещё только предстоит взобраться. Я начинаю играть с температурами отжига, чтобы посмотреть, сможем ли мы получить несколько вариантов. Когда ты один из немногих в команде, кто раньше реально работал с биологией, возникает огромное чувство ответственности. От тебя ждут больших результатов в этой ударной команде, и это пугает. Но одна из причин, по которой я хотела прийти сюда, сделать что-то действительно важное. Вот количество недостающих элементов. А что, если использовать то понимание физики, которое у нас уже есть, например, как источник данных? Но если ошибка носит системный характер, это не может быть правильным. Если модель систематически ошибается, ты можешь просто выучить неправильную физику. Команда пытается продумать несколько подходов. Для нас ключевым была биологическая значимость, поэтому мы полностью переписали весь поток данных, на котором альфафолт обучается. Нельзя форсировать креативную фазу. Нужно делать пространство, чтобы идеи расцвели. Мы выиграли Касп, а потом снова вернулись к чистому листу. Какие у нас теперь новые идеи? Им понадобилось время, чтобы вернуться на прежний уровень, но уже с новыми подходами. И сейчас, мне кажется, мы начинаем видеть плоды этих идей. Они позволяют идти дальше. Это очень важный момент. Я видел его уже много раз. Теперь я понимаю, что это значит, и знаю, сейчас самое время давить на газ. Добавление боковых цепей улучшает прямое сворачивание. Это дало большой толчок прогрессу. Мы ещё об этом поговорим. Отлично. За последние 4 месяца мы сделали колоссальный рывок. Во время Кап-13 нам требовался день или два, чтобы свернуть один белок, а теперь мы сворачиваем сотни тысяч в секунду. Это просто безумие. Теперь это модель, которая на порядке быстрее и при этом даже точнее. Мы получаем всё больше структур в зоне высокой точности. Мы очень быстро движемся к системе, которая начинает попадать прямо в суть и в самое сердце проблемы. Отличная работа. Похоже, мы в хорошей форме. Сколько у нас осталось? 5 недель, шесть? Вы обеспечены вычислительными мощностями. Нам бы не помешало ещё. Я переживала из-за каз. Но по мере того, как система начинает складываться, я уже не так нервничаю. Кажется, в последнее время всё встало на свои места. и думаю, всё будет хорошо. Премьер-министр объявил о самых жёстких ограничениях нашей жизни, которые Великобритания видела за всю современную историю. Я должен дать британцам очень простую инструкцию. Вы должны оставаться дома. Такое ощущение, будто мы живём в научно-фантастическом романе. Я привожу еду родителям, слежу, чтобы они оставались изолированными и в безопасности. Это лишь подчёркивает, насколько остро нам нужна наука с поддержкой. И ты всегда понимаешь, что что-то подобное возможно, но никто по-настоящему не верит, что это случится при его жизни. Ты уже записываешь? Да. Доброе утро, Ола. Как ты? Всё хорошо. Касп начался. Приятно, что я могу целый день сидеть в пижамных штанах. Я никогда не думала, что буду жить в доме, где происходит столько всего. В одной комнате я пытаюсь решить задачу сворачивания белков, а в другой мой муж пытается научить роботов ходить. Один из самых сложных белков, с которыми мы столкнулись в Касп на данный момент - это белок SARSC 2 под названием Orfate. Орфей - это коронавирусный белок. Он один из ключевых белков, подавляющих иммунную систему. Мы очень старались улучшить наше предсказание. Правда, невероятно старались. Наверное, мы потратили на одну цель больше времени, чем когда-либо раньше, до такой степени, что мой муж говорит мне в полночь: "Тебе нужно идти спать". Кажется, сегодня 102 день с начала локдауна. Моя дочь ведёт дневник. Теперь уже можно выходить столько, сколько хочешь. Мы получили последнюю цель. Нам сообщили, что в нашей категории Касп больше целей не будет. Теперь мы просто делаем всё возможное, чтобы дать наилучший ответ. Как только начали поступать результаты, я садился и сразу смотрел, насколько близко кому-то удалось подойти к правильной структуре белка. — О, привет. Это просто невероятно. Касп наконец-то закончился. Думаю, самое время поднять бокал. Не знаю, есть ли у всех бокал. А если нет, поднимите, не знаю, хотя бы свои ноутбуки. Наверное, мне стоит сказать речь. Кажется, так и должно быть. Но я вообще не понимаю, что сказать. Так что давайте посмотрим. Мне кажется, лучше всего просто зачитать письмо. Когда Джон сказал: "Я зачитаю письмо на командной встрече", я подумала: "Ну да, Джон, ты знаешь, как веселиться. Сейчас будем читать письмо". Я получил его сегодня около 4 часов. Оно от Джона Молта, и я просто его прочитаю. Здесь написано: "Как вы, вероятно, уже знаете, ваша группа выступила в Казп-14 невероятно успешно, как по сравнению с другими командами, так и по абсолютной точности моделей. Поздравляю с этой работой. Это действительно выдающееся достижения. Эти структуры были настолько хороши, что это просто поражает. Спустя полвека у нас наконец-то есть решение задачи сворачивания белков. Когда я увидел это письмо, я прочитал его и сказал: "Чёрт! " А жена спрашивает: "Всё в порядке? " Я позвонила родителям и просто сказала: "Мам, мне нужно тебе кое-что рассказать". Мы сделали одну вещь, и, кажется, это довольно большое событие. Когда я узнал результаты Казп-1, я был просто ошеломлён. Я была в восторге. Это проблема, которую я уже начинала считать неразрешимой при моей жизни. Теперь у нас появился инструмент, который учёные могут использовать на практике. К нам начали обращаться люди и говорить: "У меня есть белок, связанный с малярией или каким-то инфекционным заболеванием. Мы не знаем его структуру. Можем ли мы использовать альфафол, чтобы её определить? Мы можем без проблем предсказывать все известные последовательности за месяц. Все известные последовательности. Миллиард, 2 млрд без проблем. Тогда почему бы нам просто не сделать это? Да, нам просто нужно это сделать. Ну, это один из вариантов, понимаешь? Есть этот Нам просто нужно Это отличная идея. Мы должны просто прогнать вообще все существующие белки и выложить результаты. Почему раньше никто этого не предложил? Конечно, именно так и нужно поступить. Зачем думать о сервисе, куда люди будут загружать свои белки? Мы просто сворачиваем всё и отдаём это всему миру. Кто знает, сколько открытий это принесёт? Демис позвонил нам и сказал: "Мы хотим сделать это открытым". Не просто открыть код, а сделать так, чтобы каждому было максимально легко получить доступ к этим предсказаниям. Это потрясающе. Как будто раздвигаешь занавес и видишь весь мир структур белков. Они опубликовали структуры 200 млн белков. Это дар человечеству. В тот момент, когда Альфафолт станет доступен всему миру, мы перестанем быть самыми важными людьми в его истории. До сих пор не могу поверить, что всё это уже выложено. Кажется, оно уже там. Ого, сколько активности в Японии. У нас 655 пользователей, сейчас уже 100. 000. Сегодня просто безумный день. Абсолютно невероятная работа всей команды. Мы будем помнить эти моменты всю оставшуюся жизнь. Я в восторге от Альфафо. Для моих исследований он уже сильно ускоряет прогресс, и это только начало. Думаю, каждое достижение в биологии и химии так или иначе будет связано с альфафолтом. Альфафолт стал переломным моментом. Это момент, который люди не забудут, потому что мир изменился.

Теперь все поняли то, что мы с Шейном знали больше 20 лет, и станет самым важным изобретением в истории человечества. Мы вскоре прибудем в конечный пункт назначения. Темп инновации и роста возможностей ускоряется как валун, который мы столкнули с холма и который теперь всё быстрее набирает скорость. Мы находимся на перепутье человеческой истории и способен изменить нашу жизнь во всех аспектах. Это не менее значимо, чем открытие электричества. Мы должны смотреть на научный метод и строго, шаг за шагом, понимать каждый этап. Это момент колоссальных возможностей. Освоение этой технологии может превзойти всё, что мы когда-либо знали. Привет, Альфа. Привет. Что это? Это шахматная доска. Если бы я играл белыми, какой ход бы ты порекомендовала? Я бы рекомендовала пойти пешкой с Е2 на Е4. А если бы ты играла чёрными, какой ход ты бы сделала сейчас? Я бы сыграла сицилианскую защиту. Хороший выбор. — Спасибо. Что ты видишь? Что это за объект? Это скульптура из карандашей. Что произойдёт, если я сдвину один из карандашей? Если сдвинуть один из карандашей, вся скульптура развалится. Тогда лучше оставить всё как есть. Наверное, это хорошая идея. Agте. Совершенно ясно, что следующее поколение будет жить в мире будущего, где всё радикально изменится из и если мы хотим ответственно провести человечество через это, важен каждый момент. Ради этого момента я и жил всю свою жизнь. Это просто хорошая игра для размышлений.