Автор Sapiens в Давосе: Ваши дети будут встречаться с ИИ

Добрый день, дамы и господа. Я попрошу вас занять свои места. А если вы не планируете оставаться на эту следующую замечательную сессию, откровенный разговор об и человечестве, любезно прошу вас тихо покинуть зал. Мне очень приятно представить сегодня одного из ведущих в мире авторов, историков и философов Юваля Ноя Харари. Он является заслуженным научным сотрудником исследователем Кембриджского университета в центре изучения экзистенциальных рисков. Он был преподавателем на кафедре истории в еврейском университете в Иерусалиме и является соучредителем сепиеншип. Как многие из вас знают, он автор бестселлеров. Среди множества книг, таких как Сепинс, краткая история человечества. Хомодеас - краткая история будущего. и 21 урок для XXI века. Продав более 50 млн книг по всему миру на 65 языках, он сосредотачивается на макроисторических вопросах нашего времени. И какой же это идеальный момент с учётом настоятельного прихода и разрушительного воздействия Ии, чтобы кто-то с уровнем и авторитетом юваля взялся за этот вызов. Пожалуйста, присоединяйтесь ко мне и тепло поприветствуйте Юваля Ноя Харари для разговора об ИИИ и человечестве. Всем доброго дня. Есть один вопрос, на который сегодня должен ответить каждый лидер в отношении Ии. Но чтобы понять этот вопрос, нам сначала нужно прояснить несколько моментов о том, что такое и что и может делать. Самое важное, что нужно знать об и это то, что он не просто ещё один инструмент, это агент. Он может учиться и меняться самостоятельно и принимать решения самостоятельно. Нож - это инструмент. Вы можете использовать нож, чтобы нарезать салат или чтобы убить кого-то, но это ваше решение, что делать с ножом. Ии, который может сам решать, резать ли салат или совершать убийство. Второе, что нужно знать об Ии - это то

что он может быть очень творческим агентом. И это нож, который может изобретать новые виды ножей, а также новые виды музыки, медицины и денег. Третье, что нужно знать об Ии, это то, что он может лгать и манипулировать. 4 млрд лет эволюции показали, что всё, что хочет выжить, учится лгать и манипулировать. Последние 4 года показали, что и агенты могут приобретать стремление к выживанию и что Ии уже научились лгать. Теперь один большой открытый вопрос об Ии. Может ли он мыслить? Современная философия началась в X веке, когда Рене Декарт провозгласил: "Я мыслю, следовательно, я существую". Ещё Дедкарта. Мы, люди определяли себя через нашу способность мыслить. Мы верим, что правим миром. Потому что можем мыслить лучше, чем кто-либо ещё на этой планете. Будет ли Ии бросать вызов нашему превосходству в сфере мышления? Это зависит от того, что означает мышление. Попробуйте понаблюдать за собой, когда

вы думаете, что там происходит. Многие люди замечают, как в их сознании всплывают слова и формируют предложения, а предложения затем формируют аргументы, такие как: "Все люди смертны, я человек". Следовательно, я смертен. Если мышление на самом деле означает упорядочивание слов и других языковых токенов, то и уже может мыслить намного лучше, чем очень и очень многие люди. И, безусловно, может составить предложение вроде и мыслит, следовательно, и существует. Некоторые утверждают, что и - это всего лишь продвинутая автоподстановка.

Он просто предсказывает следующее слово в предложении. Но разве это так уж отличается от того, что делает человеческий разум? Попробуйте понаблюдать и поймать следующее слово, которое всплывают у вас в голове. Вы действительно знаете, почему вы подумали именно это слово? Откуда оно взялось? слово, а не какое-то другое? Вы знаете, в том, что касается упорядочивания слов, и уже мыслит лучше, чем многие из нас. Следовательно, всё, что состоит из слов, будет захвачено и если законы состоят из слов, то и возьмёт на себя юридическую систему. Если книги - это всего лишь комбинации слов, то и возьмёт на себя книги. Если религия построена из слов, то Ии возьмёт на себя религию. Это особенно верно для религий, основанных на книгах, таких как ислам, христианство или иудаизм. Иудаизм называет себя религией книги и наделяет высшей властью не людей, а слова в книгах. Люди имеют авторитет в иудаизме не из-за нашего опыта, а только потому, что мы изучаем слова в книгах. Ни один человек не может прочитать и запомнить все слова

во всех еврейских книгах, но и может легко это сделать. Что происходит с религией книги, когда величайшим экспертом по священной книге является И. Однако некоторые могут сказать, можем ли мы действительно свести человеческую духовность лишь к словам в книгах. Означает ли мышление только упорядочивание языковых токенов? Если вы внимательно понаблюдаете за собой, когда думаете, вы заметите, что там происходит нечто ещё. Помимо того, что в голове всплывают слова и формируют предложения, у вас также возникают некоторые невербальные чувства. Возможно, вы чувствуете боль, возможно, вы чувствуете страх, возможно, любовь. Некоторые мысли болезненны, некоторые пугают, некоторые полны любви. И хотя и становится лучше нас в работе со словами, по крайней мере, на данный момент у нас нет никаких доказательств того, что Ии способен что-либо чувствовать. Конечно, поскольку ИИ осваивает язык и может притворяться, что чувствует боль или любовь. и может сказать: "Я люблю тебя". Если вы попросите его описать, как ощущается любовь, и может дать лучшее в мире словесное описание. И может прочитать бесчисленные любовные стихи и книги по психологии, а затем описать чувство любви гораздо лучше любого человеческого поэта, психолога или влюблённого. Но это всего лишь слова. В Библии сказано: "В начале было слово, и слово стало плотью". В Даозин сказано: "Истина, которую можно выразить словами, не есть абсолютная истина". На протяжении всей истории люди всегда боролись с напряжением между словом и плотью, между истиной, которую можно выразить словами, и абсолютной истиной, которая находится за пределами слов. Ранее это напряжение было внутренним для человечества. Оно существовало между разными человеческими группами. Некоторые люди придавали словам высшую важность. Они были готовы, например, отказаться от своего гомосексуального сына или даже убить его всего лишь из-за нескольких слов в Библии. Другие люди говорили: "Но это всего лишь слова. Дух любви должен быть гораздо важнее буквы закона". Это напряжение между духом и буквой существовало в каждой религии, в каждой правовой системе, даже в каждом человеке. Теперь это напряжение будет вынесено наружу. Это будет уже не напряжение между разными людьми. Это будет напряжение между людьми и новыми хозяевами слов. Всё, что состоит из слов, будет взято под контроль и раньше все слова, все наши вербальные мысли возникали в каком-то человеческом разуме, либо в моём разуме я это придумал, либо я узнал это от другого человека. Вскоре большинство слов в нашем сознании будет происходить от машины. Сегодня я как раз услышал о новом слове, которое Иидумали сами, чтобы описать нас, людей. Они назвали нас наблюдателями. Наблюдатели, потому что мы наблюдаем за ними. Вскоре Ии станет источником, возможно, большинства слов в нашем сознании и будет массово производить мысли, собирая слова. символы, изображения и другие языковые токены в новые комбинации. То, останется ли у людей место в этом

мире, зависит от того, какое место мы отведём нашим невербальным чувствам и нашей способности воплощать мудрость, которую невозможно выразить словами. Если мы продолжим определять себя через нашу способность мыслить словами, наша идентичность рухнет. Всё это означает, что независимо от того, из какой вы страны, ваша страна вскоре столкнётся с серьёзным кризисом идентичности, а также с иммиграционным кризисом. Имигрантами на этот раз будут не люди, приплывающие в хрупких лодках без визы или пытающиеся пересечь границу посреди ночи. Имигрантами станут миллионы ии, которые могут писать любовные стихи лучше нас, которые могут лгать лучше нас и которые могут путешествовать со скоростью света без какой-либо необходимости в визах. Как и человеческиемигранты, эти имигранты принесут с собой различные выгоды. У нас будут и врачи, помогающие в наших системах здравоохранения, и учителя, образования, даже и пограничники, чтобы

останавливать нелегальных человеческих иммигрантов. Но имигранты также принесут с собой и проблемы. Те, кто обеспокоен человеческими иммигрантами, обычно утверждают, что иммигранты могут забирать рабочие места, могут менять местную культуру, могут быть политически нелояльны. Я не уверен, что это верно для всех человеческих иммигрантов, но это определённо будет верно для ИИ иммигрантов. Имигранты отнимут множество человеческих рабочих мест. Имигранты полностью изменят культуру каждой страны. Они изменят нашу религию и даже романтические отношения. Некоторым людям не нравится, если их сын или дочь встречается с парнем имигрантом. Что подумают эти люди, когда их сын или дочь начнёт встречаться с е парнем? И, конечно, имигранты будут иметь сомнительную политическую лояльность. Они, скорее всего, будут лояльны не вашей стране, а какой-то корпорации или правительству за океаном, скорее всего, в одной из всего двух стран: Китае или США. США поощряют страны закрывать свои границы для человеческих иммигрантов, но открывать их очень-очень широко для эмигрантов и из США. И теперь мы наконец можем перейти к вопросу, на который каждому из вас вскоре придётся ответить. Признает ли ваша страна и иммигрантов юридическими лицами? Очевидно, что и не являются личностями. У них нет тела или разума. Но юридическое лицо - это нечто совсем иное, чем личность. сущность, которую закон признаёт обладающий определёнными юридическими обязанностями и правами, например, правом владеть собственностью, подавать

иски в суд и пользоваться свободой слова. Во многих странах корпорации считаются юридическими лицами. Компания Альфабет может открыть банковский счёт, может подать на вас в суд или может пожертвовать деньги на вашу следующую президентскую кампанию. В Новой Зеландии реки были признаны юридическими лицами. В Индии некоторые боги получили такое признание. Конечно, до сегодняшнего дня признание корпорации, реки или бога юридическим лицом было всего лишь юридической фикцией. На практике, если корпорация вроде алфабет решала купить другую корпорацию или если индуистский бог решал подать на вас в суд, решение на самом деле принимал не Бог. Его принимали какие-то человеческие руководители, акционеры или попечители. Си всё иначе. В отличие от рек и богов, и действительно могут принимать решения самостоятельно. Вскоре они смогут принимать решения, необходимые для управления банковским счётом, для подачи иска и даже для управления корпорацией без какой-либо необходимости в человеческих руководителях, акционерах или попечителях. Следовательно, и могут функционировать как личности. Хотим ли мы это допустить? Признает ли ваша страна и юридическими лицами? А что, если другие страны этого не сделают? Предположим, что ваша страна не хочет признавать и личностями, но США во имя дерегулирования ИИ и дерегулирования рынков предоставляют юридическое признание, юридическую правосубъектность миллионам Ии, которые начинают управлять миллионами новых корпораций. Будете ли вы блокировать деятельность этих корпораций USAI в вашей стране? Предположим, что некоторые USI личности изобретут сверхэффективные и сверхсложные финансовые инструменты, которые люди не могут полностью понять и поэтому не знают, как их регулировать. Откроете ли вы свои финансовые рынки для этой новой и финансовой магии или попытаетесь её заблокировать, тем самым отключившись от американской финансовой системы? Предположим, что некоторые и личности создадут новую религию, которая завоёвывает веру миллионов людей. Это не должно звучать слишком надуманно, потому что в конце концов почти все предыдущие религии в истории утверждали, что они были созданы нечеловеческим разумом. Теперь распространит ли ваша страна свободу вероисповедания на новую и секту и на её и священников и миссионеров? Возможно, стоит начать с чего-то немного проще. Разрешит ли ваша страна и личностям открывать аккаунты в социальных сетях, пользоваться свободой слова на Facebook, TikTok и дружить с вашими детьми? Ну, вообще-то, этот вопрос следовало задать ещё 10 лет назад. В социальных сетях и боты уже как минимум десятилетия функционируют как фактические личности. Если вы считаете, что и не следует рассматривать как личности в социальных сетях, вам следовало действовать ещё 10 лет назад. Через 10 лет вам будет уже слишком поздно решать, должны ли функционировать как личности на финансовых рынках, в судах, в церквях. Кто-то другой уже примет это решение за вас. Если вы хотите повлиять на то, куда движется человечество, вам нужно принять решение сейчас. Итак, каков ваш ответ как лидера? Считаете ли вы, что имигранты должны быть признаны юридическими лицами? Если нет, то как вы собираетесь этому помешать? Спасибо, что выслушали этого человека. Подпишись прямо сейчас на мой Telegram-канал по ссылке в описании. Я подготовил для тебя топ-три материала, которые, на мой взгляд, должен знать каждый. Первое, карта сотни топовых AI стартапов - это будущее на одной картинке. Второе- прогноз от инсайдера из Openi, который ещё до появления CH GPT предсказал всё, что сейчас происходит с нейронками. И вот в этом году он выпустил новый прогноз до двадцать седьмого года. И третье, самое мощное - это мой разбор эссе основателя компании Anроopic, который по сути второй человек в мире искусственного интеллекта. Он по полочкам разложил, что будет происходить в мире ближайшие 5 лет, и главное, каким будет универсальный AI, которого все так боятся или ждут. Переходи по ссылке в описании.

описании. — Спасибо, Юваль. Это был фантастический обзор. Вы задали много вопросов, и это правильные вопросы. Я согласна со многим из того, что вы говорите. Мы здесь, в Давосе, где тема диалог. И меня особенно задели ваши комментарии о словах и важности слов, и о том, что именно это якобы отличает людей от других животных. Хотя можно спорить, что у других тоже есть формы языка. В контексте Даваса и того спектра людей, которые здесь присутствуют, из технологий, из бизнеса, из политики. Как бы вы хотели видеть, каков ваш ответ в отношении этого несколько дистопического мира, который вы, возможно, обрисовали перед нами? Если позволите, я добавлю: по образованию я учёный нейробиолог и много работаю в этой области, особенно с болью. И нам очень знакомо, что многие наши открытия, особенно технологические и политические, мы часто сначала продвигаем вперёд, а уже потом думаем: "Мы недостаточно продумали этику и последствия". И затем пытаемся догнать с регулированием, которое, возможно, нужно вокруг этого выстроить. Так что мы там, где мы есть. Это происходит, как все говорят, в масштабе и по величине, и по скорости больше, чем когда-либо, во времена индустриальной революции. У нас здесь, в Давосе, правильное сочетание людей. Всё строится вокруг диалога. Что бы вы хотели видеть в будущем в плане установления границ вокруг некоторых из более тревожных областей, которые вы описали, и каковы ваши собственные мысли об этических последствиях предоставления юридических прав либо агентам, либо роботам, либо тем, кто существует только в интернете? Здесь много всего. Прежде всего, я бы сказал, что, знаете, давас - это про слова. Это про разговоры. Базовая идея Даваса в том, что вы можете изменить мир просто разговаривая. И мне нравится эта идея, потому что это также и моя идея как автора, как университетского преподавателя. Это то, что я делаю. Я говорю, я пишу, я думаю, что могу влиять на мир с помощью слов. И теперь это под вопросом: не находимся ли мы в конце пути для слов? Не перестаёт ли это работать? Инженеры и также солдаты не меняют мир словами. Они делают вещи, они действуют. Философы, учёные, а также политические лидеры пытаются менять мир словами, говоря вещи. И, возможно, мы дошли до конца этого пути. И что это значит? Мы, люди, в конечном итоге завоевали мир, я бы сказал, с помощью языка и слов, потому что, да, инженеры могут создавать оружие, а солдаты могут им пользоваться. Но чтобы создать армию, нужно убедить тысячи незнакомцев сотрудничать. Как вы это делаете? С помощью слов, с помощью идеологии, с помощью религии. Так что люди захватили мир не потому, что мы физически самые сильные, а потому, что мы открыли, как использовать слова, чтобы заставить тысячи, миллионы и миллиарды незнакомцев сотрудничать. Это была наша сверхспособность. И теперь появилось нечто, что собирается отнять у нас нашу сверхспособность. Ещё несколько лет назад ничто на Земле не могло использовать слова. Только люди. Шимпанзе не могли, реки не могли, солнце не могло. Мы могли использовать слова. Теперь есть нечто, что может или скоро сможет использовать слова лучше, чем мы. И если вы просто посмотрите на то, что произошло в социальных сетях, и на огромные изменения, которые это принесло миру. Так что через 10 лет, живя в мире, в котором и управляют языком, как это будет выглядеть? Ну, Давас через 10 лет может выглядеть совсем иначе. Так что это будущее, о котором мы все можем попытаться подумать в контексте того, кто будет здесь помимо физических людей. Но если позволите, я хочу немного обсудить тот факт, что для людей неново, когда их превосходит технология. Так что, если мы подумаем о некоторых вещах, мы не умеем летать, и мы построили самолёты. Машины могут передвигаться быстрее нас. Нам с этим очень комфортно. Угроза, связанная с Ии, заключается в том, что это угроза суверенной власти, нашей способности мыслить, и это дестабилизирует. Я говорю это как академик и преподаватель. Но если вернуться, скажем, к роботу, то ценность того, что робот может пробежать 100 м быстрее Усейна Болта, для нас меньше. Есть что-то в человеческом усилии, в борьбе, в страдании, в том, что у нас есть коллективное чувство эмпатии и понимания того, что значило чего-то добиться, даже если это было хуже, с помощью технологий. И мне просто интересно, если автора, который заменит вас, насколько мы, как люди, будем это ценить? Его слова, его творчество и искусство, созданное с помощью искусственного интеллекта. Как вы думаете, будем ли мы ценить это также? И значит ли это, что для людей всё ещё есть место в творческом пространстве мышления и слов? В этом и состоит кризис идентичности. Потому что Декарт не сказал: "Я бегу, следовательно, я существую". Он сказал: "Я мыслю". То есть он основал человеческую идентичность на нашей способности мыслить. Мы всегда знали, что гепарды бегают быстрее нас. слоны гораздо больше и сильнее нас. Поэтому мы не определяли себя через это. Мы определяли себя через мышление. И теперь нечто станет лучше нас в мышлении, если мышление означает упорядочивание слов. И снова: "Я автор, я спикер, я упорядочиваю слова. Это моя игра, у меня есть все эти слова, и я их раскладываю". О, давайте поставим эти слова в таком порядке. Нет, нет. Лучше поставить вот так, вот так, и победит меня. Я не знаю, сколько на это уйдёт. 2 года, 5 лет, 10 лет, он победит меня. И тогда, что это будет значить для нашей идентичности? Люди идентифицируют себя, знаете, с потоками слов в своём уме. Вы закрываете глаза и пытаетесь увидеть, что происходит внутри меня. Многие люди, я один из них, видят, как слова всплывают и организуются. Мы отождествляем себя с этим. Но, думаю, моя мысль в том, что, используя ту же аналогию, мы всё равно ценим человека. У нас есть Олимпийские игры. Мы знаем, что многие другие животные и технологии могут превосходить нас во многих из этих областей, но мы всё равно по-настоящему наслаждаемся человечностью людей, тем, как они тренируются, развиваются, стараются, даже если результат объективно хуже. И мне интересно, не перенесём ли мы это естественным образом и в сферу мышления, и в сферу слова. Так что у вас всё равно будет очень яркая и успешная роль автора через 10 лет, потому что я буду ценить вашу книгу больше, чем книгу, созданную ИИ. Даже если Ии будет генерировать новые идеи лучше, чем я, допустим, ты хочешь инвестировать деньги, и ты спрашиваешь советы у человека-консультанта, и она предлагает определённую стратегию. Ты можешь сопереживать ей, потому что у неё есть жизненная история, опыт, эмоции и всё такое. А затем у тебя есть и финансовый консультант безжизненной истории, без эмоций, но с лучшими финансовыми советами. Кого ты выберешь? И вот здесь мы всегда совершаем, как мне кажется, большую ошибку. И поэтому я начал с идеи агентности. Мы всегда думаем, что сможем просто использовать эти системы как инструменты, но если они способны мыслить, они становятся агентами. Знаешь, я приведу пример из средневековой истории. Как англосаксы захватили Британию. Это частично миф, частична история. Британцы, которые жили там изначально, воевали с пиктами и скотами, приходившими с севера. Британцы плохо воевали. И король бритов Вортегерн сказал: "У меня есть идея. Я слышал, что в Германии, в Скандинавии есть люди, которые действительно умеют воевать. Давайте привезём наёмников, англосаксонских наёмников. Они будут воевать за нас и победят пиктов и скотов. В Ортегерн привозит англосаксонских наёмников. Они хорошо воюют и побеждают скотов и пиктов. Но затем англосаксы говорят себе: "Это богатая страна. Эти люди слабы, эти люди разобщены. Мы можем захватить всё". И они захватывают. Мы понимаем это, когда речь идёт о человеческих наёмниках. Мы понимаем, да, ты платишь им, но у них есть собственная сознание, и они могут восстать. Но мы не понимаем этого в отношении. Ии ты смотришь на лидеров мира, они думают: "О, я приведу Ии, чтобы он воевал за меня". Идея о том, что он может просто отобрать у тебя власть, даже не приходит им в голову. Они по-настоящему не принимают того факта, что Ии может мыслить. Да, и это принципиально иная ситуация. Если повернуть это наоборот, ты выпускник моего университета, и мы этим гордимся. Хотя сейчас ты работаешь уже в другом месте, в Кембридже. И я думаю, что вызов для сферы образования как раз связан с обратным переворотом идеи Аллана Тюринга, который задал вопрос: "Может ли компьютер мыслить, что по сути стало точкой рождения искусственного интеллекта? " Думаю, вопрос, который мы сейчас задаём внутри академического сообщества, заключается в следующем: как нам сохранить способность людей мыслить? Потому что, если мы всё больше и больше передаём принятие решений и, то довольно быстро возникает опасение, и мы уже видим это на примере студентов, которые приходят к нам из школьной системы и чрезмерно используют чат GPT, происходит деградация критических способностей человеческого мышления. Поэтому, какой бы вы дали мне совет как представителю академической среды? Как нам удержаться как людям и сохранить человеческое мышление, чтобы у нас хотя бы оставалась способность жить рядом с этими технологиями, которые, как вы говорите, ведут нас к совершенно новому мировому порядку. Знаете, в настоящий момент мы всё ещё думаем лучше. Поэтому сейчас это выглядит как призыв к людям. Вам необходимо критическое мышление, вам необходимы моральные оценки, и вы не можете получить этого от и. Но нам нужно готовиться к моменту, когда это перестанет быть правдой. возьмём снова экономику или финансы и создадут новую финансовую систему, которую они будут понимать, а мы нет. Как тогда обучать экономистов или политиков в мире, в котором люди больше не понимают, как вообще функционируют финансы? Потому что Ии создадут сверхсложную финансовую систему, и мы окажемся в положении лошадей. Лошади могут видеть, что их обменивают от одного человека к другому за несколько блестящих золотых монет, но они не способны понять саму идею денег. Это слишком сложно. Мы можем оказаться в той же ситуации через 10 лет. Давас через 10 лет. Возможно, ни один человек в зале не будет понимать финансовую систему, потому что она будет доминироваться ИИ. И ИИ создадут новые финансовые стратегии и инструменты, которые будут просто математически за пределами возможности человеческого мозга. Так как будут выглядеть политика, финансы и давас в мире, где ни один человек больше не понимает, как работают финансы? Это прекрасная нота, чтобы завершить разговор. У нас закончилось время. Есть ещё множество вопросов, которые мы могли бы обсудить. Один из них - это фундаментальное отличие искусственного интеллекта от человеческого интеллекта. Человеческий мозг развивается с рождения до взрослого возраста, примерно до 20 лет. И он является продуктом жизненного опыта, как чувствующего человеческого существа, которое переживает любовь, боль, гнев, эмоции. И хотя можно в какой-то степени имитировать сенсорные системы и тренировать алгоритмы, это всё равно принципиально другое. Искусственный мозг - это не человеческий мозг, он не человек. И возможно, в этом всё ещё есть ценность. То, что связано с самой сутью чувствующего человеческого существа, это даёт вклад в наше понимание. И, возможно, последний комментарий. Пожалуйста, подумайте об обучении детей в мире, где с самого начала, с нулевого дня большая часть взаимодействия нового ребёнка будет происходить с Ии, а не с человеком. Это самый большой и самый пугающий психологический эксперимент в истории, и мы его проводим. Действительно, так и есть. Юваль, большое спасибо. Я очень рада, что вы думаете об этих проблемах и заставили нас всех задуматься. Я с нетерпением жду, что вы, возможно, вернётесь в Давас через 10 лет и поразмышляете об этом разговоре и о том, куда мы пришли. Спасибо всем, большое спасибо. Давайте поаплодируем Ювалю. เ