ВСЕ ОБ ЭТОМ ГОВОРЯТ! DeepSeek – главный прорыв в нейросетях 2025

нейросеть про которую говорит не только ии Медиа А все новостные каналы журналы про неё пишут со всех буквально уголков нейросеть которая за несколько дней обогнала чать gpt по скачиванию в Apple Store и обрушила рыночную капитализацию NVIDIA на 600 млрд долларов это самый большой обвал в истории китайская нейросеть Deep сик чем же Она хороша почему сейчас люди переходят массово с чата gpt на deeps как её использовать И самое главное в этом видео я научу вас как её установить на свой компьютер чтобы вы пользовались этой нейросетью моделью абсолютно бесплатно и локально и ещё в удобнейшего интерфейсе так же как и Chat gpt короче видео получилось очень сильно длинным ребят Поэтому будет две части первая часть я расскажу вам всё что вам нужно знать вообще про модельку deeps в чём я и мощности в чём её преимущество Как выбирать параметры модельки Как делать её мощнее всё-всё-всё в первой части а во второй частью будет конкретно именно установка модельки на Ваш компьютер выйдет это в тот же день просто посмотрите два видео чтобы потом легче было переключаться первое что вообще такое deeps И в чём её

преимущество deeps - это языковая модель прямой конкурент Open ai то есть Chat gpt по многим показателям производительности она находится на том же уровне что и самая мощная моделька Open o1 Ну та которая доступна всем а не за 200 долларов при этом всём она полностью бесплатно для неё не нужен никакой VPN цены на использование App в 90 раз меньше чем у Open ai И самое главное у неё открытый Исходный код а это значит что вы можете взять эту модель и установить к себе на компьютер и пользоваться ей совершенно бесплатно даже если когда-то она станет платной в будущем и никуда не отправлять свои данные у вас больше контроля над моделькой Вы можете до обучать её на своих данных скрещ данные между моделями в одну экспериментировать подстраивать под свои задачи Если вы используете модель локально можно забыть про лимиты про ограничения про цензуру потому что вы сами предоставляете модели ресурсы своего компьютера для того чтобы модель могла сгенерировать ответ чего нельзя сделать с чатом gpt или Клод потому что dips предоставила свой Исходный код модельки в открытом доступе А openi и другие гиганты такого не делают и мы можем подключать использова gpt или Клод только по а а на минуточку у них не дешёвая 60 долларов за 1 млн аутпут токенов когда у дипси Например если вы вдруг захотите использовать дисик и написать с помощью неё какую-то свою программку 2 доллара за миллион токенов на 90% меньше почему это возможно секрет

в инновациях которые просто перевернули подход к обучению ии сегодня обучение топовых нейросетей типа чата gpt стоит сотни миллионов долларов это требует тысячи дорогих GPU массивных дата-центров и невероятного количества энергии это если бы каждая идея стоила целой электростанции А дипси сказали а что если это можно делать лучше и дешевле они изменили подход вместо огромных ресурсов умные алгоритмы традиционные модели тратят память как будто записывают числа С тридцать двумя знаками после запятой а дисик сократили это до восьми что уменьшило использование памяти на 75% обычные и читает как первоклассник кошка сидит на дипси читает целыми фразами сразу в два раза быстрее и с точностью 90% Когда вы обрабатывается миллиарды слов это безумно важно плюс вместо активации всех параметров модели они используют только самые нужные результаты говорят сами за себя их модель обучается за 5 млн долларов вместо 100 конечно это может быть и враньё вместо дата-центров им хватает несколько тысяч GPU Представьте что для запуска мощной модели Вам теперь не нужен суперкомпьютер это революция п сик по сути дела разрушает Монополию крупных компаний и теперь можно создавать мощную модель без огромных затрат для Nvidia - Это кошмар ведь их вся бизнес-модель строится на то чтобы предоставлять вот эти дорогостоящие GPU Асик показывает что можно обойтись просто игровыми картами То есть он полностью меняет правила игры и это уже не новая технология это по сути Новая эра до доступного ии у меня мурашки аж похожи и вопрос даже не в том Будет ли революция вопрос скорее Как быстро это произойдёт и скрывает ли что-то этот китайский конкурент это была немножечко вводная но очень важная часть объяснить вам Почему все говорят Асик А теперь то что действительно нам будет полезно Как установить эту модель Но перед тем как мы будем устанавливать модель на свой компьютер я отвечу на самые часто задаваемые вопросы которые скорее всего у вас будут в голове Либо они у вас уже есть если мы использовать модель бесплатно на компьютере Почему мы тогда платим зача gpt и почему просто все не перейдут Насик В чём разница между тем использовать модель на компьютере и стандартным методом Как выбирать модель и по каким параметрам Как сделать её более мощнее и как выбрать квантизация для себя У этого видео есть тайм-коды Поэтому можете быстренько перепрыгивать на нужный вам

момент это очень частый вопрос Всё дело в исходном коде имеет открытый Исходный код Что означает что вы можете скачать её и установить к себе прямо на компьютер соответственно после установки модель будет использовать только ресурсы вашего компьютера процессор видеокарта память и вы соответственно ничего не платите потому что вы используете её локально без необходимости подключения к другим серверам А вот CH gpt он устроен по-другому у него нет открытого исходного кода поэтому мы не можем установить его на свой компьютер все запросы наши Они отправляются на сервера Open ai в их дата-центры где модель обрабатывает ваш запрос с использованием всех мощностей и соответственно мы по сути дела платим за как бы аренду их серверов за то что они нам предоставляют эту возможность Представьте CH gpt как ресторан Где вы заказываете блюда запросы соответственно вам нужно заплатить за еду мощности сервера апск - это как рецепт который вы можете взять и приготовить у себя дома готовить сколько угодно и соответственно за это ничего не платить это грубый пример но я думаю Понятно так получается сейчас все могут установить пси на свой компьютер и не платить чат gpt в чём подвох и почему

так не сделают все Всё дело в мощности работа моделей зависит от мощности модели такие как CH gpt deeps они имеют миллиарды параметров и чтобы эти параметры работали на всю свою мощность им нужны сервера быстрые процессоры видеокарты большое количество оперативной памяти это как лампочка Если вы хотите чтобы она светила на всю свою мощь нужно достаточное напряжение и мощный источник питания точно так же и с моделями если Ваш компьютер слабый то он просто не сможет использовать все мощности Нейро сети и ответы будут не такие точные возможно медленные То есть вы как бы используете упрощённую версию модели Именно поэтому люди просто платят компаниям за использование их сервера где им не нужно париться Как устанавливать на свой компьютер Как сделать так чтобы компьютер выдерживал эти мощности работал хорошо зашли на сайт взяли один запрос получили результат за это заплати тили Можно ли

что-то с этим сделать потому что всё-таки большие компании предприниматели предпочитают устанавливать модели именно на свой компьютер локально можно есть три способа простых без покупки огромного железа Первое - это скачивать облегчённые версии тех же моделей разработчики знают что у большинства людей нет суперкомпьютеров поэтому выпускают сжатые варианты такие модельки они весят меньше и не требуют огромное видеокарты как это происходит когда компания выпускает свою модельку общий доступ всякие умельцы берут этот код этой модельки тренируют её на своих данных урезают параметры и персонализировать модельку под какую-то узкую задачку тем самым она становится меньше по весу но соответственно у неё не так много параметров она не такая прямо умная но если она заточена под конкретную задачку с этой Задачка она справляется на Ура Спасибо энтузиаста которые их дорабатывает и оптимизируют второй способ - это обновить свой компьютер если вы всерьёз хотите работать с нейросетями вам рано или поздно придётся поменять Ваш компьютер я думаю что нам рано или поздно всем придётся поменять свои компьютеры на более мощные просто потому что мы живём в R A и сейчас мы все будем всё больше и больше использовать ai чтобы использовать его хорошо грамотно смена оборудования необходима поэтому Можете уже задумываться и подыскивать какие-то варианты и третий вариант - это арендовать сервер Да вы уже будете платить кому-то опять и тут Возможно это будет не совсем выгоднее возможно выгоднее действительно заплатить 20 долларов за ча gpt но здесь этот вариант подходит для тех кто не хочет делиться да а работать локально у себя и иметь более гибкий контроль над моделькой всё-таки она у вас вы можете Задавать ей любые вопросы обучать её переобуть тренировать под свои задачки для этого есть специальные сайты компании которые предоставляют эти сервера в аренду и вы по сути дела платите или за время или за мощности которые вы используете если вам будет интересно Напишите в комментариях я хочу узнать как арендовать свой сервер и подключить к модельке я запишу об этом обучалку Ну а в этом видео мы сосредоточимся на бесплатном те то есть мы установим более простые модельки к себе на компьютер через минутку я вам расскажу как выбрать оптимальный размер под свой компьютер и всё и уже через несколько минут вы сможете использовать модельку абсолютно бесплатно у себя на компьютере и вы не будете больше сталкиваться с проблемой что п сик лагает Потому что сейчас действительно просто Миллионы людей его используют в интернете и когда даже п сик станет платным А я верю в про то что он когда-то достанет платным вы сможете использовать дисик бесплатно теперь важно как выбрать модели по каким

параметрам Когда вы читаете что у модельки 13 млрд параметров либо 170 млрд параметров - это про объём данных на которых её обучали и про сложность её мозгов чем больше параметров тем она умнее соответственно тем быстрее и лучше ответы она будет вам выдавать Но вместе с этим растут требования к памяти и мощности нужна более крутая видеокарта и процессор и соответственно оперативная память модель будет весить больше например не несколько гигабайт а десятки даже сотни гигабайт Если вы скачиваете самую мощную модель например стоя 70 млрд параметров Ваш компьютер Может просто захлебнуться из-за того что модель забрала все его ресурсы и работать медленно ещё если мы говорим за локальные модели то стоит обращать

внимание на квантизация что это такое Представьте что у вас есть очень большая картинка в высоком расширении она выглядит круто но она занимает очень много места на жёстком диске если вы сделаете её полегче Например уменьшите размер или качество картинка станет весить меньше Но может немного потерять в деталях так вот в нейросетях происходит похожая история она

называется квантизация это способ упростить модель чтобы она потреблял меньше ресурсов но при этом она действительно может немножечко потеряться в точности поэтому для домашнего использования часто берут упрощённые модели которые соответственно работают быстрее и им не нужен суперкомпьютер у вас слабый компьютер или ноутбук берите модельку с низкой квантизация Q3 или Q4 она будет легче работать и скорее все вас может запустить её без проблем если у вас более-менее современный пока с хорошей видеокартой Попробуйте q8 качество ответов может быть выше но она будет потреблять больше ресурсов Если хотите максимально сохранить оригинальное качество есть форматы типа fp16 или fp32 не совсем квантизация Но похоже они дают лучший результат но требовательны к железу если что вы можете спросить Ута gpt просто Скажите какая у вас моделька компьютер и он вам подскажет насчёт этого всё с теорией разобрались теперь Давайте попробуем на практике какая у нас будет логика нам понадобится специальная программа Launcher она будет запускать и скачивать любые модельки которые мы захотим называется Ома собственно она и будет делать всю работу за нас ещё для удобства вашего я покажу вам как настроить интерфейс чтобы вы использовали модельки не в терминале где всё-всё-всё запутано А как в интерфейсе чата gpt чтобы Вы могли ещё и переключаться между модельками между чатами и так далее за это будет отвечать специальный код который я скачала с гитхаба и чтобы всё в совокупности работало Нам нужен докер Это программа которая внутри вашего компьютера может создавать типа виртуальный контейнер в котором и будет работать веб-интерфейс и наши модельки поехали