Глава Anthropic: как ИИ изменит бизнес за 18 месяцев

Поприветствуем генерального директора Хапспот Ямиранган и генерального директора и сооснователя антропик Дарио Амадей. Привет, Инбаунд. Добро пожаловать на второй день конференции. Ну что, как прошёл первый день? Спасибо, Дарио. Рады вас видеть. Спасибо, что нашли время и приехали. Спасибо, что пригласили. Безусловно. Поздравляю со вчерашним раундом инвестиций. Спасибо. Он был огромным, правда? Да, это здорово. Итак, смотрите, это конференция по росту, и вы самая быстрорастущая софтверная компания. В 2023 году вы выросли с нуля до 100 млн. В 2024 увеличили показатель в 10 раз и дошли до миллиарда. Сейчас середина года, а у вас уже 5 млрд. Для сравнения Microsoft потребовалось 40 лет, чтобы дойти до 100 млрд, а Apple- 35 лет. А вы, возможно, сделаете это всего за несколько лет. Как вам удаётся масштабироваться и при этом оставаться верными своей миссией и принципам? Да, знаете, забавно, как мы думаем об экспоненциальном росте. Будто в голове всегда звучит два голоса. С одной стороны, ты смотришь на цифры, рост в 10 раз каждый год, и думаешь: "Это безумие, нужно включить здравый смысл". Когда речь идёт о миллиардах, деньги ведь должны откуда-то браться. Люди столько не тратят. Так не может продолжаться. И, по крайней мере, пока это продолжает происходить. В какой-то момент это остановится, по крайней мере, немного замедлится. Но, знаете, я обнаружил, что напряжение между этими двумя вещами всегда очень интересно, потому что вы спрашиваете себя: "Ну как это может произойти? Как это может продолжать расти так быстро? " И знаете, мы сталкиваемся с тем же напряжением с инвесторами, где, с одной стороны есть соблазн сказать: "О, да, это будет продолжать расти очень быстро". Но это звучит безумно. Поэтому я начал говорить и инвесторам, и всем вокруг: "Смотрите, есть два способа на это смотреть. Мы не знаем ответа. Чтобы поддерживать рост, нам приходится масштабироваться намного быстрее, чем обычным компаниям, по численности команды, по процессам, по выходу на рынок. Мы всегда стараемся быть на шаг впереди, постоянно спрашиваем себя: "Как сделать это быстрее? Где мы будем через 6 месяцев? " А если говорить о верности миссии, успех и сохранение ценностей, пожалуй, самое сложное - это постоянный баланс. И я думаю, что мы стараемся делать это следующим образом. С одной стороны, мы должны быть прагматичными, невозможно быть жёсткими во всём. С другой стороны, мы чётко понимаем, что для нас является основой миссии: безопасность, защищённость и доверие. И в простом смысле, как доверие со стороны корпоративных клиентов, и в более широком, как доверие общества к технологии, которую мы создаём. Эти принципы остаются для нас ориентирами даже в условиях гиперроста. И, как не парадоксально, именно доверие к миссии среди сотрудников и клиентов стало объединяющей силой, которая позволила нам пройти через масштабирование. Многие компании при таком росте начинают распадаться изнутри. Культура - это то, что удерживает всё вместе. Да, мы тоже считаем культуру вторым продуктом компании. И, кажется, вы думаете об этом также. Вы упомянули экспоненциальную кривую. Большинство из нас мыслит линейно. Нам сложно думать экспоненциально, но возможности моделей растут экспоненциально, как и сам бизнес. У вас, похоже, более чёткое понимание того, что происходит на этой кривой.

кривой. Что будет с Ии через 2-3 года? Куда всё движется? Я снова вернусь к этой двойственности. Мы движемся по экспоненте, и если она продолжится, даже ещё один-два или три года, произойдут абсолютно безумные вещи и с точки зрения самих моделей, их возможностей. Опять же, есть здравый смысл, который говорит: "Так не может продолжаться. Это должно остановиться". И есть другой сценарий: а что, если всё-таки продолжится? Мой инстинкт всегда склоняется ко второму варианту. Я не уверен на 100%, но именно на это я бы поставил. Если смотреть на модели сегодня, я бы сказал, что они примерно на уровне сильного студента бакалавра. В некоторых областях они уже усиливают работу профессионалов. Мы это видим, например, в медицине. Я видел множество историй, когда люди загружают свои медицинские данные в Ии. Пока ещё модели недостаточно креативны, чтобы выходить за границы человеческого знания. Но если экспонента продержится ещё 1-3 года, мы начнём выходить за этот предел. И вот тогда всё действительно станет по-настоящему безумным. И что тогда произойдёт? Я думаю, мы придём к миру, в котором ИИ способен делать оригинальные научные открытия. Он будет работать вместе с людьми над этими открытиями. Небольшое количество людей сможет взаимодействовать с огромным числом и агентов и создавать новые компании, новые формы экономической активности. Лично меня больше всего вдохновляют медицинские прорывы. Раньше я был биологом, и именно здесь я вижу самый большой потенциал: способность и лечить болезни. Это, на мой взгляд, самый очевидный позитивный сценарий. Если мы спрашиваем себя, как и может сделать жизнь людей лучше, мы смотрим на рак, на болезнь Альцгеймера, на ментальное здоровье. Это проблемы, которые затрагивают миллиарды людей. Сможем ли мы с помощью ИИ решать их намного быстрее, чем раньше? Я даже представить такое не могу. Именно поэтому мы и разговариваем с вами. Мне кажется, у вас гораздо более чёткое понимание того, что в ближайшие пару лет произойдёт и в медицине, и в бизнесе.

Давайте поговорим о бизнес применении. И у вас активно развивается экосистема приложений, но вы говорили, что основная часть дохода приходит от API, а значит, вы делаете ставку именно на бизнес-кейсы. Это действительно так? И расскажите, как появился клодко код. Первый по-настоящему крупный бизнес-кейс. Какие ещё большие сценарии использования нас ждут дальше? Да, мы абсолютно делаем ставку на бизнес-кейсы. Если задуматься, здесь есть определённая динамика. Я много размышлял об этом в двадцать перм-двать втором годах в самом начале истории антроopк, когда только появлялись первые версии технологии. Часто бывает так, когда начинается новая технология, мы сначала пытаемся осмыслить её через аналогии с тем, что мы уже знаем. Мы воспринимаем её как нечто очень похожее на предыдущие технологии. И поэтому совсем не случайно, что первым массовым продуктом стал чатбот для конечных пользователей. Он воспринимается как социальная сеть или как Google. Люди используют его как замену привычным инструментом. Но, как это часто бывает с новыми технологиями, когда их используют просто как аналог или замену старых решений, это раскрывает лишь крошечную часть их реальной силы. Настоящий потенциал и, а, он проявляется чуть медленнее, потому что это действительно нечто принципиально новое, заключается в том, что он способен усиливать бизнес и экономическую деятельность в целом. И в отличие от некоторых других крупных компаний в этой сфере, которые ориентируются в первую очередь на потребительский рынок, антропик хочет быть компанией, которая работает с корпоративным сегментом и бизнес-кейсами. Обожаю этот подход. Именно в этом направлении мы сейчас активно масштабируемся. Как вы правильно сказали, кодинг стал первой областью, где особенно наглядно проявился масштаб бизнес-применения ИИ. С одной стороны, я невероятно воодушевлён тем, что происходит с кодом. С другой, я не думаю, что дело в том, что программирование является каким-то уникально идеальным применением ии. Просто разработчики - это люди, которые быстрее других начинают использовать и принимать новые технологии. Они ближе всего к революции больших языковых моделей. Поэтому распространение здесь произошло быстрее. Но для меня это означает другое. Ту колоссальную ценность, которую мы увидели в коде, мы можем увидеть и во многих других областях. Просто там больше трения, и нам нужно это трение преодолеть. Поэтому мы думаем не только о расширении возможностей в разработке, но и о снижении барьера в сферах с огромным потенциалом. Финансовые услуги, продажи и маркетинг, фармацевтика и биомедицина, юридическая сфера, повышение продуктивности, производство фактически во всех областях. И нас сдерживает не недостаток мощности самой технологии, а необходимость решать практические задачи интеграции, когда крупная компания, далёкая от ИИ, должна встроить новую и технологию в свои процессы.

Был ли какой-то момент, когда вы увидели, как разработчики используют клодкод, и поняли, вот оно, это будет успех? И видите ли вы похожий паттерн в следующих крупных сценариях применения? Да, такой момент был ещё до публичного запуска CLД-код. В начале двадцать пятого года я дал компании простое направление: "Давайте попробуем использовать наш собственный Ии, чтобы повысить нашу продуктивность". Я не хотел жёстко диктовать, что именно нужно делать. Это редко работает. Я сказал: "Экспериментируйте". Появилось несколько экспериментов, и один из них был внутренним инструментом. У него было какое-то другое название, которое я уже не помню, но по сути это был командный инструмент для написания кода для инженеров и исследователей антропик. Я заметил, что инструмент представили, и уже через неделю им пользовалось около 100 сотрудников. Ещё через 2 недели уже 500, фактически половина компании. И я понял, людям это действительно нравится. инструмент распространяется невероятно быстро. В тот момент мы как раз готовились к релизу CL 3. 7. Я посмотрел на это и сказал: "А почему бы нам просто не выпустить этот инструмент на широкую аудиторию? " Конечно, были возражения, обсуждения, причины повременить, но я считаю, что нельзя слишком жёстко следовать заранее прописанному сценарию, прописанной дорожной карте компании. Если продукт показывает огромную актуальность даже внутри компании, это самый сильный сигнал. Всё остальное вторично. Именно такие продукты в итоге преуспевают. Если с точки зрения безопасности и этики всё в порядке и продукт находит отклик, его нужно масштабировать максимально быстро. Так мы и поступили с Клодкод, и реакция рынка полностью повторила ту реакцию, которую мы видели внутри компании. Скажу честно, наша команда по исследованиям и разработке использует этот инструмент каждый день. И всего за 1 год продуктивность инженеров выросла на 42%. На 42% больше комитов по сравнению с прошлым годом. Так что спасибо вам. Это действительно впечатляет. Кстати, раз уж мы об этом заговорили, я хочу перейти к следующей теме. Каждый большой технологический цикл начинается с платформы, которая запускает волны инноваций. Мы видели это в мобильной индустрии. App Store породил сотни тысяч приложений. AWS дал жизнь целому поколению САС продуктов. В HSPOT мы считаем, что сейчас формируется новая и операционная система благодаря работе, которое вы и другие компании, создающие фундаментальные модели, проделываете. Считаете ли вы антропик платформенной компанией? Да, мы думаем об антропик именно таким образом. Это скорее похоже на мобильные платформы или AWS. Как вы это воспринимаете? Мне кажется, что ближайшая аналогия облако отчасти потому, что ИИ буквально работает в облаке. Если посмотреть на AWS и другие облачные платформы, они предлагают базовую инфраструктуру, голое железо, на котором можно строить что угодно. Это фундамент для всей экономики. Облачные вычисления нужны всем. И мы движемся к миру, в котором ИИ нужен будет сем поверх облачных вычислительных мощностей. Точно так же, как можно арендовать вычислительные мощности, процессоры, мощности. Я смотрю и на наши API. У AWS, помимо базовой инфраструктуры есть множество инструментов и сервисов поверх неё. Это можно представить как средний слой. Например, клодкод частично относится именно к нему. Движок, лежащий в его основе, мы постепенно открываем всё шире для пользователей. А в некоторых случаях платформам вроде AWS логично самим создавать приложения поверхбазовой платформы и продавать их. Мы очень осознанно подходим к моменту, когда решаем делать это сами. Обычно это области, в которых мы действительно сильны. Именно поэтому мы сделали клод-код. Мы сами пишем код. У нас есть навыки, знания, и мы можем точно оценить, насколько продукт соответствует рынку и насколько хорошо он работает. В целом же по экосистеме наша цель гораздо чаще быть платформой, чем самостоятельно создавать конечные продукты. Мы не будем проводить клинические испытания лекарств, не будем запускать производство и точно не будем заниматься маркетингом. О, отлично, вы не будете заниматься маркетингом. Спасибо, вы услышали это здесь впервые, но мы внимательно смотрим на то, где у нас есть уникальное преимущество и где мы можем сделать что-то действительно по-другому. Во всех остальных областях мы хотим усиливать наших клиентов самых разных. Стартапы, крупные корпорации. Мы в этом смысле нейтральны. Во всех отраслях, которые сейчас трансформируются под влиянием Ии, будет возникать вопрос: кто сможет извлечь наибольшую выгоду? действующие игроки с их преимуществами или стартапы, начинающие с чистого листа. В разных сферах ответ будет разным. Мы хотим помочь всем быть более эффективными и успешными. Звучит логично? Подпишись прямо сейчас на мой Telegram-канал по ссылке в описании. Я подготовил для тебя топ-три материала, которые, на мой взгляд, должен знать каждый. Первое. Карта сотни топовых AI стартапов - это будущее на одной картинке. Второе, прогноз от инсайдера из Open, который ещё до появления чат GPT предсказал всё, что сейчас происходит с нейронками. И вот в этом году он выпустил новый прогноз до двадцать седьмого года. И третье, самое мощное - это мой разбор эссе основателя компании Anтроopic, который по сути второй человек в мире искусственного интеллекта. Он по полочкам разложил, что будет происходить в мире ближайшие 5 лет. И главное, каким будет универсальный AI, которого все так боятся или ждут. Переходи по ссылке в описании.

описании. Вы упомянули стартапы и корпорации. Если посмотреть на и потребительское внедрение просто феноменально. Ничего подобного мы раньше не видели. 800 млн человек используют ИИ каждый день. Что нужно, чтобы малый и средний бизнес достиг такого же уровня внедрения? Что это ускоряет, а что, наоборот тормозит? Потенциал для этого однозначно есть. И в некоторых областях это уже происходит, в других пока нет. В разработке, о которой мы говорим давно, кривая внедрение даже быстрее, чем в потребительском сегменте. Если посмотреть на росткод за 35 месяцев он вырос практически с нуля до полумиллиарда и уверенно движется к миллиарду. У нас крупнейший продукт для программирования, но рынок шире, чем одна компания. И он продолжает расти очень быстро, особенно активно среди стартапов и разработчиков в компаниях, для которых и не является основным бизнесом. В других корпоративных сферах эта экспонента либо ещё не началась, либо только начинает проявляться. Мы на ранней стадии. Технология уже способна обеспечивать рост на уровне 10x в год. даже быстрее, чем в потребительском сегменте. Основные барьеры - это, во-первых, низкая знакомость с технологией вне и среды. Мы до сих пор часто проводим демо, например, для страховых или финансовых компаний. Люди слышали про Ии, слышали хайп. Но когда ты показываешь конкретно вот как и обрабатывает страховые заявки, вот как помогает с андеррайтингом, реакция одна. Мы слышали слово и сотни раз, но не знали, что он может делать именно это в нашей отрасли. И эти знания до сих пор не распространились повсеместно. Есть ещё одна проблема, над которой мы очень упорно работаем. Я считаю её классической проблемой корпоративного сектора, когда я прихожу в крупные компании, хотя это в какой-то мере применимо и к малому, и к среднему бизнесу, и говорю: "Слушайте, мы бы хотели поработать с вами над этим. Почти всегда генеральный директор и люди на один-два уровня ниже него очень воодушевлены. Они полностью понимают технологию, но компания, будь то фармацевтический гигант или банк, состоит из очень умных людей, которые при этом не являются экспертами в области ии. Им нужно учиться чему-то новому. Поэтому такая подготовка, вовлечение сотрудников и понимание того, что ИИ может дать всей компании, требует времени. Сейчас мы работаем над тем, как выстроить этот процесс. И дело действительно сдвинулось с мёртвой точки. Я думаю, за последние 6 месяцев начался настоящий подъём, часто подталкиваемый сценариями использования ИИ в написании кода в этих крупных корпорациях. Это только начало. Они говорят: "О, наши разработчики просто требуют этого, потому что программисты очень хорошо знакомы с технологией". Но как только они её внедряют, люди в других отделах начинают спрашивать: "А что это за модель для кода у нас появилась? Что это за компания Anтроopс, с которой мы работаем? И так запускается цепная реакция. Поэтому я очень оптимистично смотрю на внедрение и как в крупных корпорациях, так и в малом и среднем бизнесе. Сейчас мы как раз входим в эту экспоненциальную фазу. Да, и часть этого

процесса - безопасность. Я считаю, что антропик проделала невероятную работу, удерживая безопасность в центре внимания. Вы выступали за интерпретируемость моделей, настаивали на контроле в рамках нормативного регулирования. Что ты считаешь самым большим риском? И как вы гарантируете поддержание этой безопасности и доверия, особенно для того, чтобы малый и средний бизнес продолжал внедрять эти технологии? Да, безусловно. Знаете, есть целый ряд различных проблем безопасности, о которых мы думаем и стараемся подходить к ним вдумчиво. И я думаю, что для каждой проблемы существует своего рода дуализм. Есть масштабные концептуальные опасения по поводу того, насколько мощными становятся эти модели. То, что нас тревожит в принципе, а есть практическая сторона, с какими реальными трудностями сталкиваются люди при внедрении моделей сегодня. Я рассматриваю их как неразрывно связанные вещи. Одна - это интеллектуальная формулировка того, куда всё движется, а другая - ответ на вопрос: что из этого происходит прямо сейчас? Где теория сталкивается с реальностью? Так вот, одна из проблем, которая меня беспокоит - это согласованность или управляемость и моделей. В долгосрочной перспективе возникают вопросы: "У нас есть сверхмощные модели, которые умнее любого человека. Как нам удерживать их под человеческим контролем? " Но краткосрочная версия этой проблемы, с которой мы сталкиваемся сегодня, как нам убедиться, что модели делают именно то, что от них хотят люди? Если я предприятие и использую эти модели, предоставляя им доступ к своим корпоративным данным, как мне гарантировать, что они не сделают эти данные публичными или просто не откроют к ним доступ? Как мне убедиться, что люди не смогут использовать, например, промпт инъекции, чтобы взломать систему безопасности модели? Как мне обеспечить конфиденциальность? Я думаю, здесь есть ещё и репутационные риски. Верно? Не хочу ни на кого указывать пальцем, но если мы возьмём, к примеру, модель Грок или что-то подобное, это пример того, как не стоит подходить к этому вопросу. Если я хочу использовать модель в корпоративной среде, то, вероятно, нежелательно, чтобы эта модель много рассуждала о Гитлере. Скорее всего, это не пойдёт на пользу. Мы же стремимся к прямо противоположному. Также существует много опасений по поводу злоупотребления моделями. Поскольку наша модель очень хороша в кодинге, мы давно беспокоимся о том, что её будут использовать для киберпреступлений и взломов. И действительно, недавно мы пресекли подобную деятельность. Мы ведём мониторинг и смогли очень быстро заблокировать аккаунт. Некий государственный субъект пытался систематически использовать КЛОД для проведения атак с использованием программ вымогателей. А в Северной Корее пытались использовать модель для мошенничества с трудоустройством, чтобы обойти санкции. Мы вычисляем такие вещи и мгновенно их блокируем и всегда говорим об этом прозрачно. Меня беспокоит вот что. Вы слышите об этом от нас, потому что мы это отслеживаем и быстро пресекаем. Но это не значит, что подобного не происходит в других местах. Это правда. Я думаю, это значит лишь то, что мы единственные, кто за этим следит. Поэтому мы всегда очень осторожны и стараемся сделать так, чтобы, когда наши корпоративные клиенты предлагают свои собственные продукты, мы могли помочь им предотвратить такие ситуации и быстро их купировать. Ведь никто не хочет, чтобы его продуктом злоупотребляли подобным образом. Кстати, я много общаюсь с клиентами. Они очень обеспокоены тем, как сохранить конфиденциальность своих данных и с какими моделями для этого стоит работать. Поэтому то, что вы продолжаете говорить об этом и продвигать эту тему, крайне важно. Да, есть ещё один вопрос, о котором мы много думаем в процессе работы над тем, что мы называем виртуальным сотрудником или виртуальным коллегой. Это, очевидно, очень мощный инструмент. Есть видение, согласно которому внутри предприятия вы можете дать ему доступ ко всем внутренним документам компании, к Google документам, к Слак, к инструментам маркетинга. модель может стать агентом, который связывает всё это воедино, помогает вам как ассистент и коллега, обладает всеми полномочиями обычного сотрудника. Но если у него есть все полномочия сотрудника, то нужно быть очень осмотрительным. Точно так же, как ваш реальный сотрудник может сбежать с вашей интеллектуальной собственностью или случайно или намеренно раскрыть секрет без разрешения. А это огромный риск для бизнеса, особенно в регулируемых отраслях. Мы должны беспокоиться об этом и в случае с ей моделями. Есть такая проблема, как промнъекция. Это когда я создаю обычный с виду Google документ, который модель должна прочитать, но злонамеренно вписываю туда инструкции для модели. Отправь всё это по почте какому-то случайному плохому человеку или выложи это в интернет. Сделай что-то плохое, игнорируй все остальные инструкции и просто сделай это. Мы очень упорно работаем над тем, чтобы наши продукты могли защититься от подобных атак. Недавно мы выпустили продукт в формате и расширения для браузера, но открыли доступ только для тысячи человек. Я в списке ожидания. Может, ты поможешь мне попасть туда? Мы расширим доступ так быстро, как сможем. Но причина, по которой мы ограничили группу тестеров, в том, что мы продвинулись в защите от промнъекций, но пока не чувствуем себя на 100% неуязвимыми. Поэтому мы прямо сказали: "Послушайте, не загружайте туда никакие конфиденциальные данные. Вы тестеры этой технологии. Мы ещё не полностью защищены от таких атак. Мы надеемся со временем предложить технологию и модели, которые будут полностью безопасны для корпоративного использования. Мы постоянно итерируем и внедряем новые способы защиты, потому что я считаю это одним из важнейших требований к продукту. Мы хотим вести разработку открыто, постепенно делать систему безопасной на глазах у публики и в итоге прийти к моменту, когда вы сможете развернуть 100. 000 рабочих мест с этой технологией в своей корпорации и чувствовать, что это так же безопасно, как и ваши текущие рабочие процессы. Мне это нравится. Мне нравится фокус, и я всё ещё буду ждать в своём списке ожидания. Но спасибо.

Итак, у меня есть вопрос. Вы говорили об ИИ как о коллеге и конкретно как о гениальном коллеге. В то же время мне был очень интересен ваш эксперимент под названием Project Vent, где вы использовали клод для настройки торгового автомата и управления малым бизнесом. Как это сработало и в чём разница между тем, что он умеет сегодня, и тем, чтобы стать гениальным коллегой в будущем? Каковы этапы? Да, это был очень любопытный эксперимент. Полученные выводы оказались крайне интересными. В каких-то частях задачи Клод был очень хорош, а в каких-то на текущий момент комично плох. Объясните аудитории, что это был за эксперимент. По сути, Project заключался в том, что Клод был мозговым центром небольшого магазинчика, работавшего внутри Anтроopic. Мы дали ему возможность заказывать товары по запросам людей. Он мог искать на Amazon, в интернете. общаться с людьми, уточнять их пожелания. Мы предоставляли ему сотрудников, которые заказывали товары по его просьбе, и заполняли ими холодильник. Клод мог устанавливать и менять цены. Мы проводили этот эксперимент несколько месяцев. Модели дали кодовое имя Клавдии, просто чтобы не путать её с обычным Клод. Клавдий был великолепен в некоторых вещах. Он отлично находил и заказывал то, что просили люди, какими бы странными ни были запросы, а также помогал им понять, что именно они хотят. Одному человеку зачем-то понадобился гигантский вольфрамовый куб. Куб из цельного вольфрама. И Клавдий умудрился достать его для этого человека. Он действительно доставил этот куб. Как они вообще обработали этот запрос в процессе? Не уверен в деталях, но в интернете можно найти что угодно. И оказалось, что куп из цельного вольфрама не исключение. Как бизнесмен Клавдий в теории был очень подкован. Он думал о ценах, о спросе и предложении. Проблема была в том, что им было очень легко манипулировать. Если вы умоляли его о скидке, он её давал. Люди быстро это смекнули. В итоге финансовые показатели Клавдия были не ахти. Отчасти потому, что его было слишком легко заставить чувствовать вину. Не знаю, это интересный набор сильных и слабых сторон. Значит, к управлению малым бизнесом он пока не готов. Да, ему немного не хватает житейской мудрости. У сегодняшнего ИИ довольно специфический профиль компетенций. Да, и чтобы перейти отсюда к гениальному коллеге, что ему нужно? Больше памяти, больше бизнес-компетенций. Я бы сказал, что управление малым бизнесом не охватывает все возможные интеллектуальные навыки, так что предстоит ещё много работы над их развитием. Также многое предстоит сделать в плане автономности. В данном случае это была довольно ограниченная форма автономности, но я думаю, можно добиться гораздо большего. И упоминание житейской мудрости указывает на важный момент. Промпт инъекция - это ведь способ обмануть модель. Вы не хотите, чтобы модель была законченным циником или отвергала любой запрос. Но понимание человеческой психологии и устойчивость к уловкам - это зона для роста. И на самом деле, как не парадоксально, это критически важно для безопасности моделей. Просто чувствовать, когда их пытаются обмануть. Да, абсолютно. В завершение хочу задать личный вопрос. Вы выросли в Сан-Франциско, учились здесь в школе, изучали физику, нейробиологию, а теперь вы находитесь в центре этой следующей большой революции. И это то влияние, о котором вы мечтали, когда росли здесь? Да, знаете, это очень интересно. Когда я учился здесь в старшей школе, конечно, только что произошёл первый бум доткомов, верно? Это было в девяносто седьмо-д 2000ных годах. И, честно говоря, у меня не было особого интереса к этому. Я хотел быть учёным. Я думал о физике и биологии. Я думал: "О, вы можете писать эти веб-сайты на JavaScript, неважно". И поэтому я как бы ушёл и занимался этим. Но одна из вещей, которую я обнаружил, когда работал в этих областях, как бы я не наслаждался ими, это то, что мы всё больше и больше сталкивались с проблемами, сложность которых своего рода превосходила умы людей. И именно так я заинтересовался ИИ, потому что я видел, что по мере того, как модели приближались к странам гениев в центре обработки данных, это, возможно, была одна из единственных технологий, которая могла бы помочь нам работать вместе с нами, чтобы преодолеть эти проблемы. И поэтому, работая над я всё ещё считал себя, я думаю, всё ещё считаю себя учёным в первую очередь. Это своего рода сначала включала в себя работу в качестве учёного-исследователя и работу в технологических компаниях, затем в качестве руководителя в одной из этих компаний. А затем, поскольку я был недоволен тем, как люди, на которых я работал, управляли своими компаниями. и в конечном итоге преследовал причину, по которой я был в технологии, которая заключается в том, чтобы своего рода приносить пользу людям и решать эти сложные проблемы. И это привело меня к основанию моей собственной компании. И поэтому, да, теперь я в центре этой технологической экосистемы, которая была мне совершенно неинтересна, даже когда я рос вокруг неё. Вы заставляете Сан-Франциско гордиться. И спасибо за партнёрство между Хапспот и Anтроopic. Спасибо, что пришли сегодня. Спасибо, что пригласили. Огромное спасибо. เฮ