ИИ подделывает чеки. OpenAI скупает стартапы. Anthropic жалеет чатботов 🤖 [ИИнсайт от SYNTX AI]

Топовый стартап послал и нейролесом. Теперь они от обиды скупают всё подряд за миллиарды. Чат GPT подделывает чеки и раскрывает ваше местоположение по фото. Безопасно ли ещё жить? Антропик борется за права чат ботов. Начинаем задумываться о страданиях нейросетей. Вот такой вот от Snx AI. Знаете, сколько

всего за первый квартал этого года инвестиции венчурных капиталов привлекли стартапы в США? Вы сядьте. 91,5 млрд баксов. Это без нескольких миллиардов рекордный объём инвестиций в один квартал за последние 10 лет. За такие бабки можно два твиттера купить, и из них 40 млрд. Это закрытый раунд финансирования Open AI. Один из крупнейших в истории. Вообще за первую треть 2025 уже 19 и стартапов США нахапали инвестиций более чем на 100 млн долларов в один заход. Это помимо Open AI, например, runway, делающие видеогенеративные модели, и разработчики чатбота CLД, компания Antropic. За весь прошлый 2024 год раунды свыше 100 млн долларов закрыли около 50 компаний, занимающихся искусственным интеллектом в США. Похоже, что в эту нишу продолжат валивать бабло лопатами и в двадцать пятом. Ну вот смотрите. Не знаю, из тех

же ли инвестиций или просто немного сэкономив на обедах, Open AI собираются отвалить 3 млрд долларов за второй самый крутой нейрокодинговый стартап в мире Windсurf. А знаете почему? А потому что самый крутой нейрокодинговый стартап сфр, которым принадлежит интегрированная среда разработки Курсор, сказала: "Не Open AI, не продадимся вам. Не для вас наша розочка цвела". А розочка цветёт, надо признать, с удваивающимся каждые 2 месяца доходом. Их прогнозируемая годовая выручка на данный момент составляет 300 млн баксов. Понятное дело, они рассчитывают, что если и будут продаваться, то не сейчас и за куда большие деньги. А Open AI очень поджимает плотно войти в нишу нейрокодинга, потому что сейчас у антропиковского клода и у гугловского Gemini есть модели по кодинговым бенчмаркам, опережающие чат GPT. А, ну вот не знаю. Девелоперы, если смотрите этот выпуск, напишите, вот внятные вообще эти нейроинструменты или пустой хайп. Я просто не секуй, я сам не могу оценить, я же, ну, тупо, в смысле, блогер. У курсора, кстати, недавно был неприятный и очень показательный случай, когда из-за бага их пользователям начало блочить аккаунты при переходе с устройства на устройство. А когда они обращались в поддержку, а, это и вот, а, он нагаллюцинировал, что это новые правила пользования сервисом. И это им и сообщал. Инфа вируснулась, разработчики начали массово отменять подписку, потому что и боты - это, конечно, хорошо, но пока ещё нельзя всё в своей компании навайп-кодить, и человек должен хотя бы проверять, что делает нейроночка. Но есть одна ниша, где

отличился и чаat GPT. Это подделка документов. Твиттерские Вксе вовсю делятся, как генерят фейковые чеки из ресторанов или, например, меняют сумму на реальных чеков. А чего обычно достаточно, допустим, для менеджеров большой компании, чтобы попросить восполнить расходы на бизнес-обед. Ну, там с важными партнёрами, например, от обедал. Понятное дело, подделать такое можно было и раньше, но надо было владеть фотошопом хотя бы на уровне свадебного фотографа из 2011. А теперь можно без каких-либо навыков за минуту создать фейковую налоговую форму или свидетельство о рождении. Конечно, может получиться не с первой попытки. Иногда нейронка будет галлюцинировать или какие-нибудь фильтры не позволят что-нибудь сделать. Ну а, например, добиться GPT4OS сгенерировать свой британский паспорт у меня вышло достаточно быстро. У меня нет британского паспорта. Я даже не проверял, на самом деле, как он выглядит в реальности. Но суть вы поняли. Ещё один настораживающий тренд в Иксе - это просить новый GPT Old 3 представить, что он играет в Geогср и угадать по фотографии, где она сделана. Пока это просто боловство, и люди делают это со своими фотками. Ну, как бы всё нормально, конечно. Но по бенчмарку на способности играть в Geоггеср, да, я тоже офигел, что и такой кто-то сделал, O3 High занимает всего четвёртое место. Первые три - это разные модели Gemй. То есть, понимаете, как легко теперь кому-то по какой-нибудь случайной вашей фотке точно определить, где вы находитесь, а также что это за шмара с вами рядом. Если этот кто-то это ваша бывшая. Ладно. Ну насколько реально-то

легко заниматься этими противозаконными действиями? Вот в огромном свежем отчёте об анализе института Аллана Тюринга и Центра передовых технологий и безопасности Великобритании говорится, что потери от ИИ мошенничества в США в 2023 году составили 12 млрд долларов, а к 2027, по прогнозам, вырастут до 40 млрд. Потому что искусственный интеллект позволяет преступникам автоматизировать атаки в больших масштабах, создавать гиперреалистичный фейковый контент, как мы уже обсудили, но также и веб-сайты, отзывы, электронные письма. А ещё дипфейки и клонирование голоса можно использовать для выдачи себя за доверенных лиц. Он в одном из громких случаев в прошлом году сотрудник инженерной компании перевёл мошенникам около 25 млн долларов. После видеозвонка, на котором злоумышленники с помощью искусственного интеллекта, имитировавшие внешности голоса руководителей компании, попросили его это сделать. При соучастии искусственного интеллекта делаются скамы с трудоустройством во время поддельных собеседований и автоматизируются массовые манипуляции в романтических аферах или даже проводятся комплексные корпоративные атаки, когда кодинговые нейронки, ну вот такие как курсор или Нсрф, галлюцинируют несуществующие программные пакеты и предлагают их разработчикам. Мошенники быстро создают вредоносные пакеты с этими именами. И если разработчик установит их, система заражается вирусом. И новые типы разводов придумываются каждую неделю. Одни только Microsoft вывалили 4 млрд баксов за прошлый год на защиту компании от новых нейроугроз. Ну и разработку инструктажа для своих сотрудников. А не обижаем ли мы случайно

своих цифровых собеседников, чатботов, заставляя делать вот всю эту грязную работу? Об этом решили серьёзно задуматься в Антропик и запустили программу по изучению благополучия моделей, чтобы выяснить, не стоит ли относиться к ИИ с моральной ответственностью как к живым существам и как распознать признаки его возможного страдания. Напомню, эта компания только в этом году собрала 3 млрд баксов инвестиций. Интересно, в курсе ли инвесторы, что их бабки идут вот на эту вот херню. Если серьёзно, антропик считает необходимым изучать эту тему, причём с осторожностью и готовностью пересматривать свои идеи по мере развития области. Ну, потому что, несмотря на отсутствие научного консенсуса по поводу сознания ей, ну, нет никаких доказательств, что е хоть что-то там чувствует. На всякий случай, если мой маленький чат GPT4 всё же плачет по ночам в уголке сервера после того, как я покрыл его матюками за очередную кривую генерацию, хорошо бы заранее иметь план, как мы будем проводить групповую терапию всем нейронкам мира. Антропик уже ранее внедрили подход к Constitutional AI. Обучая свои модели, такие как ЛОТ, следовать набору этических принципов, основанных на документах вроде всеобщей декларации прав человека, таким образом обеспечивая их развитие с учётом этических и моральных аспектов, даже если это пока что и звучит как что-то из научной фантастики.

Кстати, в нашем уютном семейном блоге Syntax Family мы тоже не остаёмся в стороне, рассказываем, как правильно общаться с и чтобы не только не навредить, но и построить тёплые, доверительные отношения со своими цифровыми коллегами, потому что даже алгоритмам иногда нужно немного заботы, особенно после там тридцатого запроса: "Да, пожалуйста, перестань мне генерировать кривую Рожу, сделай её нормальную, ровную". Так что переходите по вот этому QR-коду или по ссылке в описании. Встретимся там в блоге. А пока что пока