> 🎀 АлСкс, Амин, Дэн (Команда OpenAI) β€” Команда Π²Π΅Π΄ΡƒΡ‰ΠΈΡ… экспСртов OpenAI (Alex, Amin, Dan), ΠΎΡ‚Π²Π΅Ρ‡Π°ΡŽΡ‰ΠΈΡ… Π·Π° инфраструктуру ΠΈ исслСдования ΠΏΡ€ΠΈ создании ΠΌΠΎΠ΄Π΅Π»Π΅ΠΉ уровня GPT-4.5. ⚑ Π—Π°Ρ‡Π΅ΠΌ Ρ‡ΠΈΡ‚Π°Ρ‚ΡŒ эту ΠΌΠ΅Ρ‚ΠΎΠ΄ΠΈΡ‡ΠΊΡƒ Π£Π·Π½Π°Π΅Ρ‚Π΅, ΠΊΠ°ΠΊ ΡƒΠΏΡ€Π°Π²Π»ΡΡ‚ΡŒ рисками ΠΏΡ€ΠΈ ΠΎΠ±ΡƒΡ‡Π΅Π½ΠΈΠΈ ΠΌΠΎΠ΄Π΅Π»Π΅ΠΉ Π½Π° 100 000+ GPU, Π³Π΄Π΅ любая ΠΌΠΈΠΊΡ€ΠΎΠΎΡˆΠΈΠ±ΠΊΠ° становится систСмной катастрофой. ΠžΡΠ²ΠΎΠΈΡ‚Π΅ ΠΌΠ΅Ρ‚ΠΎΠ΄ΠΎΠ»ΠΎΠ³ΠΈΡŽ co-design (совмСстного проСктирования), ΠΏΠΎΠ·Π²ΠΎΠ»ΡΡŽΡ‰ΡƒΡŽ ΡΠΈΠ½Ρ…Ρ€ΠΎΠ½ΠΈΠ·ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ ML-Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌΡ‹ ΠΈ Β«ΠΆΠ΅Π»Π΅Π·ΠΎΒ» Π΅Ρ‰Π΅ Π΄ΠΎ старта обучСния. ΠŸΠ΅Ρ€Π΅ΠΉΠ΄Π΅Ρ‚Π΅ ΠΎΡ‚ стратСгии «большС computeΒ» ΠΊ стратСгии «алгоритмичСская ΡΡ„Ρ„Π΅ΠΊΡ‚ΠΈΠ²Π½ΠΎΡΡ‚ΡŒΒ», Ρ‡Ρ‚ΠΎΠ±Ρ‹ ΠΈΠ·Π²Π»Π΅ΠΊΠ°Ρ‚ΡŒ максимум ΠΈΠ· доступных Π΄Π°Π½Π½Ρ‹Ρ…. πŸ—Ί ΠšΠ°Ρ€Ρ‚Π° Π½Π°Π²Ρ‹ΠΊΠΎΠ² | Π£Ρ€ΠΎΠ²Π΅Π½ΡŒ | Навык | ОписаниС | | :--- | :--- | :--- | | Π‘Π°Π·ΠΎΠ²Ρ‹ΠΉ | ΠžΡ‚ΠΊΠ°Π·ΠΎΡƒΡΡ‚ΠΎΠΉΡ‡ΠΈΠ²ΠΎΡΡ‚ΡŒ | ΠŸΡ€ΠΎΠ΅ΠΊΡ‚ΠΈΡ€ΠΎΠ²Π°Π½ΠΈΠ΅ систСмы, способной Ρ€Π°Π±ΠΎΡ‚Π°Ρ‚ΡŒ Π² условиях постоянных Π°ΠΏΠΏΠ°Ρ€Π°Ρ‚Π½Ρ‹Ρ… сбоСв. | | Π‘Ρ€Π΅Π΄Π½ΠΈΠΉ | Co-design | Бинхронная Ρ€Π°Π·Ρ€Π°Π±ΠΎΡ‚ΠΊΠ° ML-стСка ΠΈ сСтСвой инфраструктуры. | | ΠŸΡ€ΠΎΠ΄Π²ΠΈΠ½ΡƒΡ‚Ρ‹ΠΉ | ΠžΡ†Π΅Π½ΠΊΠ° generalization | ИспользованиС Π·Π°ΠΊΡ€Ρ‹Ρ‚Ρ‹Ρ… Ρ€Π΅ΠΏΠΎΠ·ΠΈΡ‚ΠΎΡ€ΠΈΠ΅Π² для ΠΈΡΠΊΠ»ΡŽΡ‡Π΅Π½ΠΈΡ Β«Π΄Π΅Π³Π΅Π½Π΅Ρ€Π°Ρ‚ΠΈΠ²Π½ΠΎΠ³ΠΎ запоминания». | | ЭкспСртный | Data Efficiency | ΠŸΠ΅Ρ€Π΅Ρ…ΠΎΠ΄ ΠΊ Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌΠ°ΠΌ, ΠΎΠΏΡ‚ΠΈΠΌΠΈΠ·ΠΈΡ€ΡƒΡŽΡ‰ΠΈΠΌ ΠΈΠ·Π²Π»Π΅Ρ‡Π΅Π½ΠΈΠ΅ инсайтов ΠΈΠ· ΠΎΠ³Ρ€Π°Π½ΠΈΡ‡Π΅Π½Π½Ρ‹Ρ… датасСтов. | 1. ΠŸΡ€ΠΎΠ΅ΠΊΡ‚ΠΈΡ€ΠΎΠ²Π°Π½ΠΈΠ΅ отказоустойчивости ΠΏΡ€ΠΈ ΠΌΠ°ΡΡˆΡ‚Π°Π±ΠΈΡ€ΠΎΠ²Π°Π½ΠΈΠΈ Π’ соврСмСнной ΠΏΠ°Ρ€Π°Π΄ΠΈΠ³ΠΌΠ΅ обучСния нСйросСтСй уровня GPT-4.5, ΠΌΠ°ΡΡˆΡ‚Π°Π±ΠΈΡ€ΠΎΠ²Π°Π½ΠΈΠ΅ с 10 000 Π΄ΠΎ 100 000 GPU β€” это Π½Π΅ просто Π»ΠΈΠ½Π΅ΠΉΠ½ΠΎΠ΅ ΡƒΠ²Π΅Π»ΠΈΡ‡Π΅Π½ΠΈΠ΅ мощностСй, Π° ΠΏΠ΅Ρ€Π΅Ρ…ΠΎΠ΄ Π² ΠΏΡ€ΠΈΠ½Ρ†ΠΈΠΏΠΈΠ°Π»ΡŒΠ½ΠΎ ΠΈΠ½ΡƒΡŽ Π·ΠΎΠ½Ρƒ турбулСнтности. Π‘ΠΏΠΈΠΊΠ΅Ρ€Ρ‹ (АлСкс, Амин, Дэн) ΠΏΠΎΠ΄Ρ‡Π΅Ρ€ΠΊΠΈΠ²Π°ΡŽΡ‚: Ρ‚ΠΎ, Ρ‡Ρ‚ΠΎ Π½Π° ΠΌΠ°Π»ΠΎΠΌ кластСрС выглядит ΠΊΠ°ΠΊ Ρ€Π΅Π΄ΠΊΠΈΠΉ Β«ΡˆΡƒΠΌΒ» ΠΈΠ»ΠΈ Π½Π΅Π·Π½Π°Ρ‡ΠΈΡ‚Π΅Π»ΡŒΠ½Ρ‹ΠΉ сбой, ΠΏΡ€ΠΈ Ρ€Π°Π±ΠΎΡ‚Π΅ Π½Π° 100 000 ускоритСлях прСвращаСтся Π² катастрофичСский Π±Π»ΠΎΠΊ, ΠΎΡΡ‚Π°Π½Π°Π²Π»ΠΈΠ²Π°ΡŽΡ‰ΠΈΠΉ вСсь процСсс. Главная Π·Π°Π΄Π°Ρ‡Π° систСмного Π°Ρ€Ρ…ΠΈΡ‚Π΅ΠΊΡ‚ΠΎΡ€Π° здСсь β€” ΠΏΠ΅Ρ€Π΅ΡΡ‚Π°Ρ‚ΡŒ ΠΎΡ‚Π½ΠΎΡΠΈΡ‚ΡŒΡΡ ΠΊ сбоям ΠΊΠ°ΠΊ ΠΊ ΠΈΡΠΊΠ»ΡŽΡ‡ΠΈΡ‚Π΅Π»ΡŒΠ½Ρ‹ΠΌ событиям. Ошибки β€” это Ρ‡Π°ΡΡ‚ΡŒ ΠΆΠΈΠ·Π½ΠΈ ΠΌΠΎΠ΄Π΅Π»ΠΈ. Π’Π°ΡˆΠ° Π°Ρ€Ρ…ΠΈΡ‚Π΅ΠΊΡ‚ΡƒΡ€Π° Π΄ΠΎΠ»ΠΆΠ½Π° Π±Ρ‹Ρ‚ΡŒ Β«ΠΈΠΌΠΌΡƒΠ½Π½ΠΎΠΉΒ» ΠΊ Π½ΠΈΠΌ. Π’ Π²ΠΈΠ΄Π΅ΠΎ приводится ΠΏΡ€ΠΈΠΌΠ΅Ρ€ с ΠΎΡ‚Π»Π°Π΄ΠΊΠΎΠΉ . Команда Π΄ΠΎΠ»Π³ΠΎΠ΅ врСмя ΡΡ‚Π°Π»ΠΊΠΈΠ²Π°Π»Π°ΡΡŒ с ΠΏΡ€ΠΎΠ±Π»Π΅ΠΌΠ°ΠΌΠΈ Β«Π±ΠΈΡ‚Ρ‹Ρ…Β» вычислСний, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ Π²ΠΎΠ·Π½ΠΈΠΊΠ°Π»ΠΈ лишь ΠΏΡ€ΠΈ ΠΎΠΏΡ€Π΅Π΄Π΅Π»Π΅Π½Π½Ρ‹Ρ… комбинациях Π΄Π°Π½Π½Ρ‹Ρ…. Π‘ΠΈΠΌΠΏΡ‚ΠΎΠΌΡ‹ выглядСли Ρ…Π°ΠΎΡ‚ΠΈΡ‡Π½ΠΎ: случайныС сСгфолты, ошибки памяти, Ρ€Π°Π·Ρ€Ρ‹Π²Ρ‹ соСдинСний. Π˜Π½ΠΆΠ΅Π½Π΅Ρ€Ρ‹ OpenAI Ρ‚Ρ€Π°Ρ‚ΠΈΠ»ΠΈ Π½Π΅Π΄Π΅Π»ΠΈ, ΠΏΡ‹Ρ‚Π°ΡΡΡŒ ΠΎΡ‚Π΄Π΅Π»ΠΈΡ‚ΡŒ ΡˆΡƒΠΌ ΠΎΡ‚ Ρ€Π΅Π°Π»ΡŒΠ½Ρ‹Ρ… Π±Π°Π³ΠΎΠ² инфраструктуры. Оказалось, Ρ‡Ρ‚ΠΎ ΠΏΡ€ΠΎΠ±Π»Π΅ΠΌΠ° ΠΊΡ€Ρ‹Π»Π°ΡΡŒ Π² Ρ€Π΅Π΄ΠΊΠΎΠΌ кСйсС Ρ€Π΅Π°Π»ΠΈΠ·Π°Ρ†ΠΈΠΈ ΠΎΠΏΠ΅Ρ€Π°Ρ†ΠΈΠΈ Π²Π½ΡƒΡ‚Ρ€ΠΈ PyTorch, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ ΠΏΡ€ΠΈ ΠΎΠ±Ρ‹Ρ‡Π½ΠΎΠΌ тСстировании Π½Π΅ проявлялся. Π­Ρ‚ΠΎΡ‚ ΠΏΡ€ΠΈΠΌΠ΅Ρ€ ΡƒΡ‡ΠΈΡ‚ нас, Ρ‡Ρ‚ΠΎ ΠΏΡ€ΠΈ ΠΌΠ°ΡΡˆΡ‚Π°Π±ΠΈΡ€ΠΎΠ²Π°Π½ΠΈΠΈ «диагностика β€” это критичСский ΠΏΡƒΡ‚ΡŒΒ». Если Π²Ρ‹ Π½Π΅ Π°Π²Ρ‚ΠΎΠΌΠ°Ρ‚ΠΈΠ·ΠΈΡ€ΠΎΠ²Π°Π»ΠΈ систСму ΠΌΠΎΠ½ΠΈΡ‚ΠΎΡ€ΠΈΠ½Π³Π°, ΠΏΠΎΠ·Π²ΠΎΠ»ΡΡŽΡ‰ΡƒΡŽ ΠΎΡ‚Π»ΠΈΡ‡Π°Ρ‚ΡŒ hardware-fault ΠΎΡ‚ ML-ошибки, Π²Ρ‹ ΠΏΡ€ΠΎΠΈΠ³Ρ€Π°Π΅Ρ‚Π΅ Π³ΠΎΠ½ΠΊΡƒ Π΅Ρ‰Π΅ Π΄ΠΎ старта. ΠŸΡ€ΠΈ ΠΌΠ°ΡΡˆΡ‚Π°Π±ΠΈΡ€ΠΎΠ²Π°Π½ΠΈΠΈ симмСтрия систСмы становится вашим Π»ΡƒΡ‡ΡˆΠΈΠΌ союзником. Если ΠΎΠ΄ΠΈΠ½ ΡƒΠ·Π΅Π» Π² сСти отстаСт, вся ΠΏΠ°Ρ€Π°Π»Π»Π΅Π»ΡŒΠ½Π°Ρ Ρ†Π΅ΠΏΠΎΡ‡ΠΊΠ° простаиваСт. Амин ΠΎΡ‚ΠΌΠ΅Ρ‡Π°Π΅Ρ‚, Ρ‡Ρ‚ΠΎ «красота систСмы Π² Ρ‚ΠΎΠΌ, Ρ‡Ρ‚ΠΎ ΠΏΠΎΡ‡Ρ‚ΠΈ всС Π΄ΠΎΠ»ΠΆΠ½ΠΎ Ρ€Π°Π±ΠΎΡ‚Π°Ρ‚ΡŒ идСально, Ρ‡Ρ‚ΠΎΠ±Ρ‹ Ρ€Π΅Π·ΡƒΠ»ΡŒΡ‚Π°Ρ‚ ΠΈΠΌΠ΅Π» смысл». ΠŸΠΎΡΡ‚ΠΎΠΌΡƒ ΠΏΡ€ΠΎΠ΅ΠΊΡ‚ΠΈΡ€ΠΎΠ²Π°Π½ΠΈΠ΅ Π΄ΠΎΠ»ΠΆΠ½ΠΎ Π²ΠΊΠ»ΡŽΡ‡Π°Ρ‚ΡŒ автоматичСскоС восстановлСниС состояний (checkpointing) ΠΈ ΠΌΠ΅Ρ…Π°Π½ΠΈΠ·ΠΌΡ‹ быстрой изоляции «больного» ΡƒΠ·Π»Π° Π±Π΅Π· остановки всСго обучСния. > Β«ΠŸΡ€ΠΎΠ±Π»Π΅ΠΌΠ° Π² Ρ‚ΠΎΠΌ, Ρ‡Ρ‚ΠΎ ΠΊΠΎΠ³Π΄Π° Π²Ρ‹ Ρ€Π°Π±ΠΎΡ‚Π°Π΅Ρ‚Π΅ Π½Π° 100 000 GPU, Ρ€Π΅Π΄ΠΊΠΈΠ΅ ошибки становятся катастрофичСскими. Π’Ρ‹ Π΄ΠΎΠ»ΠΆΠ½Ρ‹ ΡΠΏΡ€ΠΎΠ΅ΠΊΡ‚ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ инфраструктуру Ρ‚Π°ΠΊ, Ρ‡Ρ‚ΠΎΠ±Ρ‹ ΠΎΠ½Π° Π±Ρ‹Π»Π° симмСтричной ΠΈ прСдсказуСмой, минимизируя variance Π² ΠΏΡ€ΠΎΠΈΠ·Π²ΠΎΠ΄ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎΡΡ‚ΠΈ, ΠΈΠ½Π°Ρ‡Π΅ ΠΎΠ΄ΠΈΠ½ ΠΌΠ΅Π΄Π»Π΅Π½Π½Ρ‹ΠΉ ΡƒΠ·Π΅Π» ΡƒΠ½ΠΈΡ‡Ρ‚ΠΎΠΆΠΈΡ‚ всю ΡΡ„Ρ„Π΅ΠΊΡ‚ΠΈΠ²Π½ΠΎΡΡ‚ΡŒ вашСго обучСния». β€” Амин, Π“Π»Π°Π²Π½Ρ‹ΠΉ систСмный Π°Ρ€Ρ…ΠΈΡ‚Π΅ΠΊΡ‚ΠΎΡ€. βœ… Π‘Π΄Π΅Π»Π°ΠΉΡ‚Π΅ сСйчас: ΠŸΡ€ΠΎΠ²Π΅Π΄ΠΈΡ‚Π΅ Π°ΡƒΠ΄ΠΈΡ‚ Ρ‚Π΅ΠΊΡƒΡ‰Π΅ΠΉ инфраструктуры обучСния. Π‘ΠΎΡΡ‚Π°Π²ΡŒΡ‚Π΅ список Β«Ρ€Π΅Π΄ΠΊΠΈΡ… ошибок» (ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ ΡΠ»ΡƒΡ‡Π°ΡŽΡ‚ΡΡ Ρ€Π°Π· Π² нСдСлю ΠΈΠ»ΠΈ Ρ€Π΅ΠΆΠ΅). Для ΠΊΠ°ΠΆΠ΄ΠΎΠΉ ΠΈΠ· Π½ΠΈΡ… Π½Π°ΠΏΠΈΡˆΠΈΡ‚Π΅ Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌ автоматичСского восстановлСния: ΠΊΠ°ΠΊ систСма Π΄ΠΎΠ»ΠΆΠ½Π° Π΄ΠΈΠ°Π³Π½ΠΎΡΡ‚ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ сбой ΠΈ ΠΊΠ°ΠΊ ΠΎΠ½Π° Π΄ΠΎΠ»ΠΆΠ½Π° Π²Π΅Ρ€Π½ΡƒΡ‚ΡŒΡΡ ΠΊ Ρ€Π°Π±ΠΎΡ‚Π΅ Π±Π΅Π· Ρ€ΡƒΡ‡Π½ΠΎΠ³ΠΎ Π²ΠΌΠ΅ΡˆΠ°Ρ‚Π΅Π»ΡŒΡΡ‚Π²Π° ΠΈΠ½ΠΆΠ΅Π½Π΅Ρ€Π°. ΠŸΠΎΠΏΡ€ΠΎΠ±ΡƒΠΉΡ‚Π΅ Π²Π½Π΅Π΄Ρ€ΠΈΡ‚ΡŒ хотя Π±Ρ‹ ΠΎΠ΄Π½Ρƒ ΠΏΡ€ΠΎΠ²Π΅Ρ€ΠΊΡƒ, которая автоматичСски ΠΈΡΠΊΠ»ΡŽΡ‡Π°Π΅Ρ‚ ΠΈΠ· кластСра ΡƒΠ·Π΅Π», Ρ€Π°Π±ΠΎΡ‚Π°ΡŽΡ‰ΠΈΠΉ Π½Π° 10% ΠΌΠ΅Π΄Π»Π΅Π½Π½Π΅Π΅ срСднСго. 2. ΠŸΡ€ΠΈΠ½Ρ†ΠΈΠΏ совмСстного проСктирования (co-design) Одной ΠΈΠ· ΠΊΠ»ΡŽΡ‡Π΅Π²Ρ‹Ρ… Ρ‚Π΅ΠΌ Π²ΠΈΠ΄Π΅ΠΎ являСтся ΠΊΡ€Π°Ρ… ΠΊΠΎΠ½Ρ†Π΅ΠΏΡ†ΠΈΠΈ Β«Ρ€Π°Π·Π΄Π΅Π»ΠΈΠ» ΠΈ властвуй». Π Π°Π½Π΅Π΅ ML-ΠΊΠΎΠΌΠ°Π½Π΄Ρ‹ ΠΌΠΎΠ³Π»ΠΈ Π½Π°ΠΏΠΈΡΠ°Ρ‚ΡŒ ΠΊΠΎΠ΄ ΠΌΠΎΠ΄Π΅Π»ΠΈ, Π° систСмныС администраторы β€” Π²Ρ‹Π΄Π΅Π»ΠΈΡ‚ΡŒ ΠΏΠΎΠ΄ Π½Π΅Π³ΠΎ сСрвСры. Для ΠΌΠΎΠ΄Π΅Π»Π΅ΠΉ Ρ‚ΠΈΠΏΠ° GPT-4.5 этот ΠΏΠΎΠ΄Ρ…ΠΎΠ΄ Ρ„Π°Ρ‚Π°Π»Π΅Π½. Команда OpenAI настаиваСт Π½Π° ΠΌΠ΅Ρ‚ΠΎΠ΄ΠΎΠ»ΠΎΠ³ΠΈΠΈ co-design: Π°Ρ€Ρ…ΠΈΡ‚Π΅ΠΊΡ‚ΠΎΡ€Ρ‹ систСм ΠΈ ML-исслСдоватСли Π΄ΠΎΠ»ΠΆΠ½Ρ‹ Ρ€Π°Π±ΠΎΡ‚Π°Ρ‚ΡŒ Π½Π°Π΄ spec-Ρ„Π°ΠΉΠ»Π°ΠΌΠΈ ΠΌΠΎΠ΄Π΅Π»ΠΈ совмСстно Π·Π° 6–9 мСсяцСв Π΄ΠΎ запуска основного Ρ‚Ρ€Π΅ΠΉΠ½Π°. Π­Ρ‚ΠΎ позволяСт Π°Π΄Π°ΠΏΡ‚ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ Ρ‚ΠΎΠΏΠΎΠ»ΠΎΠ³ΠΈΡŽ сСти ΠΏΠΎΠ΄ ΠΊΠΎΠ½ΠΊΡ€Π΅Ρ‚Π½Ρ‹Π΅ ΠΏΠ°Ρ‚Ρ‚Π΅Ρ€Π½Ρ‹ доступа ΠΊ памяти ΠΈ ΠΌΠΈΠ½ΠΈΠΌΠΈΠ·ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ ΡƒΠ·ΠΊΠΈΠ΅ мСста (bottlenecks) Π² пропускной способности. Дэн ΠΏΡ€ΠΈΠ²ΠΎΠ΄ΠΈΡ‚ ΠΏΡ€ΠΈΠΌΠ΅Ρ€: ΠΎΠ±ΡƒΡ‡Π΅Π½ΠΈΠ΅ GPT-4.5 ΠΏΠΎΡ‚Ρ€Π΅Π±ΠΎΠ²Π°Π»ΠΎ измСнСния стратСгии управлСния состояниСм (state management), Ρ‡Ρ‚ΠΎ заставило ΠΊΠΎΠΌΠ°Π½Π΄Ρƒ ΠΏΠ΅Ρ€Π΅ΠΉΡ‚ΠΈ Π½Π° ΠΌΡƒΠ»ΡŒΡ‚ΠΈΠΊΠ»Π°ΡΡ‚Π΅Ρ€Π½ΠΎΠ΅ ΠΎΠ±ΡƒΡ‡Π΅Π½ΠΈΠ΅. Если Π±Ρ‹ ML-ΠΈΠ½ΠΆΠ΅Π½Π΅Ρ€Ρ‹ Π½Π΅ Π·Π½Π°Π»ΠΈ ΠΎΠ³Ρ€Π°Π½ΠΈΡ‡Π΅Π½ΠΈΠΉ сСти Π½Π° этапС написания Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌΠ°, ΠΎΠ½ΠΈ Π±Ρ‹ создали ΠΊΠΎΠ΄, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ просто «захлСбнулся» Π±Ρ‹ ΠΏΡ€ΠΈ ΠΏΠΎΠΏΡ‹Ρ‚ΠΊΠ΅ синхронизации ΠΌΠ΅ΠΆΠ΄Ρƒ кластСрами. Co-design здСсь β€” это Π½Π΅ просто совСщания, это подстройка Ρ„ΠΎΡ€ΠΌΡ‹ Ρ‚Π΅Π½Π·ΠΎΡ€ΠΎΠ² ΠΈ ΠΏΠ°Ρ‚Ρ‚Π΅Ρ€Π½ΠΎΠ² ΠΊΠΎΠΌΠΌΡƒΠ½ΠΈΠΊΠ°Ρ†ΠΈΠΈ ΠΏΠΎΠ΄ Ρ€Π΅Π°Π»ΡŒΠ½ΡƒΡŽ Π°Ρ€Ρ…ΠΈΡ‚Π΅ΠΊΡ‚ΡƒΡ€Ρƒ ΠΆΠ΅Π»Π΅Π·Π°. Π­Ρ‚ΠΎ Ρ‚Ρ€Π΅Π±ΡƒΠ΅Ρ‚ Π³Π»ΡƒΠ±ΠΎΠΊΠΎΠ³ΠΎ взаимопонимания: ML-спСциалист Π΄ΠΎΠ»ΠΆΠ΅Π½ ΠΏΠΎΠ½ΠΈΠΌΠ°Ρ‚ΡŒ, ΠΊΠ°ΠΊ ΠΈΠΌΠ΅Π½Π½ΠΎ Ρ€Π°Π±ΠΎΡ‚Π°Π΅Ρ‚ InfiniBand, Π° систСмщик β€” ΠΏΠΎΠ½ΠΈΠΌΠ°Ρ‚ΡŒ, ΠΏΠΎΡ‡Π΅ΠΌΡƒ конкрСтная опСрация Π² ΠΌΠΎΠ΄Π΅Π»ΠΈ Ρ‚Ρ€Π΅Π±ΡƒΠ΅Ρ‚ ΡΡ‚ΠΎΠ»ΡŒΠΊΠΎ памяти. Π’ Π²ΠΈΠ΄Π΅ΠΎ обсуТдаСтся, Ρ‡Ρ‚ΠΎ Ρ€Π°Π±ΠΎΡ‚Π° Π½Π°Π΄ модСлью Π½Π΅ прСкращаСтся послС запуска Β«GoΒ». МногиС ΠΎΠΏΡ‚ΠΈΠΌΠΈΠ·Π°Ρ†ΠΈΠΈ Π²Π½Π΅Π΄Ρ€ΡΠ»ΠΈΡΡŒ прямо Π² процСссС обучСния. Π­Ρ‚ΠΎ рискованная, Π½ΠΎ нСобходимая стратСгия Π² условиях ΠΎΠ³Ρ€Π°Π½ΠΈΡ‡Π΅Π½Π½ΠΎΠ³ΠΎ Π²Ρ€Π΅ΠΌΠ΅Π½ΠΈ. Β«ΠœΡ‹ ΠΏΠ°Ρ€Π°Π»Π»Π΅Π»ΠΈΠ·ΠΈΡ€ΠΎΠ²Π°Π»ΠΈ Ρ€Π°Π±ΠΎΡ‚Ρƒ агрСссивно, с Ρ‚Π²Π΅Ρ€Π΄ΠΎΠΉ ΡƒΠ±Π΅ΠΆΠ΄Π΅Π½Π½ΠΎΡΡ‚ΡŒΡŽ, Ρ‡Ρ‚ΠΎ Ссли ΠΌΡ‹ ΠΏΡ€ΠΎΠΉΠ΄Π΅ΠΌ этот performance cliff (ΠΎΠ±Ρ€Ρ‹Π² ΠΏΡ€ΠΎΠΈΠ·Π²ΠΎΠ΄ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎΡΡ‚ΠΈ), модСль станСт Ρ‚Ρ€Π΅Π½ΠΈΡ€ΡƒΠ΅ΠΌΠΎΠΉΒ», β€” Π³ΠΎΠ²ΠΎΡ€ΠΈΡ‚ Амин. Π­Ρ‚ΠΎ Ρ‚Ρ€Π΅Π±ΡƒΠ΅Ρ‚ ΠΊΡƒΠ»ΡŒΡ‚ΡƒΡ€Ρ‹, Π³Π΄Π΅ Π½Π΅Ρ‚ Π³Ρ€Π°Π½ΠΈΡ† ΠΌΠ΅ΠΆΠ΄Ρƒ «моя Π·Π°Π΄Π°Ρ‡Π°Β» ΠΈ «твоя Π·Π°Π΄Π°Ρ‡Π°Β». Команда стала Π΅Π΄ΠΈΠ½Ρ‹ΠΌ ΠΎΡ€Π³Π°Π½ΠΈΠ·ΠΌΠΎΠΌ, Ρ€Π°Π±ΠΎΡ‚Π°ΡŽΡ‰ΠΈΠΌ Π½Π° ΠΎΠ±Ρ‰ΡƒΡŽ ΠΌΠ΅Ρ‚Ρ€ΠΈΠΊΡƒ. > «БовмСстноС ΠΏΡ€ΠΎΠ΅ΠΊΡ‚ΠΈΡ€ΠΎΠ²Π°Π½ΠΈΠ΅ (co-design) β€” это Π½Π΅ просто объСдинСниС усилий. Π­Ρ‚ΠΎ Ρ„ΡƒΠ½Π΄Π°ΠΌΠ΅Π½Ρ‚Π°Π»ΡŒΠ½Ρ‹ΠΉ ΠΏΠΎΠ΄Ρ…ΠΎΠ΄, ΠΏΡ€ΠΈ ΠΊΠΎΡ‚ΠΎΡ€ΠΎΠΌ Π²Ρ‹ стСритС систСму Ρ‚Π°ΠΊ, Ρ‡Ρ‚ΠΎΠ±Ρ‹ Π½ΡƒΠΆΠ½Ρ‹Π΅ Π²Π°ΠΌ свойства (Π½Π°ΠΏΡ€ΠΈΠΌΠ΅Ρ€, ΡΠΊΠΎΡ€ΠΎΡΡ‚ΡŒ ΠΏΠ΅Ρ€Π΅Π΄Π°Ρ‡ΠΈ Π΄Π°Π½Π½Ρ‹Ρ… ΠΈΠ»ΠΈ Π΄ΠΎΡΡ‚ΡƒΠΏΠ½ΠΎΡΡ‚ΡŒ памяти) Π½Π΅ Π²ΠΎΠ·Π½ΠΈΠΊΠ°Π»ΠΈ случайно, Π° Π³Π°Ρ€Π°Π½Ρ‚ΠΈΡ€ΠΎΠ²Π°Π½Π½ΠΎ ΠΎΠ±Π΅ΡΠΏΠ΅Ρ‡ΠΈΠ²Π°Π»ΠΈΡΡŒ самой Π°Ρ€Ρ…ΠΈΡ‚Π΅ΠΊΡ‚ΡƒΡ€ΠΎΠΉ обучСния. Π‘Π΅Π· этого ΠΏΠΎΠ΄Ρ…ΠΎΠ΄Π° Π²Ρ‹ всСгда Π±ΡƒΠ΄Π΅Ρ‚Π΅ ΠΎΠΏΠ°Π·Π΄Ρ‹Π²Π°Ρ‚ΡŒ Π·Π° прогрСссом ΠΆΠ΅Π»Π΅Π·Π°Β». β€” Команда OpenAI. βœ… Π‘Π΄Π΅Π»Π°ΠΉΡ‚Π΅ сСйчас: ΠžΡ€Π³Π°Π½ΠΈΠ·ΡƒΠΉΡ‚Π΅ кросс-Ρ„ΡƒΠ½ΠΊΡ†ΠΈΠΎΠ½Π°Π»ΡŒΠ½ΠΎΠ΅ Ρ€Π΅Π²ΡŒΡŽ Ρ‚Π΅ΠΊΡƒΡ‰Π΅Π³ΠΎ ΠΏΡ€ΠΎΠ΅ΠΊΡ‚Π°, Π³Π΄Π΅ ML-Ρ€Π°Π·Ρ€Π°Π±ΠΎΡ‚Ρ‡ΠΈΠΊΠΈ ΠΈ DevOps/Network-ΠΈΠ½ΠΆΠ΅Π½Π΅Ρ€Ρ‹ ΠΏΠΎΠΌΠ΅Π½ΡΡŽΡ‚ΡΡ ролями Π½Π° 1 час. ΠŸΡƒΡΡ‚ΡŒ ML-ΠΈΠ½ΠΆΠ΅Π½Π΅Ρ€ ΠΎΠ±ΡŠΡΡΠ½ΠΈΡ‚, ΠΊΠ°ΠΊ Π΄Π°Π½Π½Ρ‹Π΅ Β«Ρ‚Π΅ΠΊΡƒΡ‚Β» Ρ‡Π΅Ρ€Π΅Π· слои ΠΌΠΎΠ΄Π΅Π»ΠΈ, Π° систСмный ΠΈΠ½ΠΆΠ΅Π½Π΅Ρ€ ΠΏΠΎΠΊΠ°ΠΆΠ΅Ρ‚, Π³Π΄Π΅ Π² сСти Π²ΠΎΠ·Π½ΠΈΠΊΠ°ΡŽΡ‚ Π·Π°Π΄Π΅Ρ€ΠΆΠΊΠΈ ΠΏΡ€ΠΈ этом ΠΏΠΎΡ‚ΠΎΠΊΠ΅. НайдитС ΠΎΠ΄Π½ΠΎ мСсто, Π³Π΄Π΅ ΠΈΠ·ΠΌΠ΅Π½Π΅Π½ΠΈΠ΅ Ρ„ΠΎΡ€ΠΌΡ‹ Π΄Π°Π½Π½Ρ‹Ρ… (Π½Π°ΠΏΡ€ΠΈΠΌΠ΅Ρ€, Ρ€Π°Π·ΠΌΠ΅Ρ€Π° Π±Π°Ρ‚Ρ‡Π°) ΠΌΠΎΠΆΠ΅Ρ‚ ΡΠ½ΠΈΠ·ΠΈΡ‚ΡŒ Π½Π°Π³Ρ€ΡƒΠ·ΠΊΡƒ Π½Π° ΡΠ΅Ρ‚ΡŒ Π½Π° 10% Π±Π΅Π· ΡƒΡ‰Π΅Ρ€Π±Π° для качСства ΠΌΠΎΠ΄Π΅Π»ΠΈ. --- 3. Π”Π΅-рискинг Ρ‡Π΅Ρ€Π΅Π· ΠΈΡ‚Π΅Ρ€Π°Ρ‚ΠΈΠ²Π½Ρ‹Π΅ запуски Π’ процСссС ΠΏΠΎΠ΄Π³ΠΎΡ‚ΠΎΠ²ΠΊΠΈ ΠΊ запуску ΠΌΠΎΠ΄Π΅Π»ΠΈ уровня GPT-4.5, ΠΊΠΎΠΌΠ°Π½Π΄Π° OpenAI ΡΡ‚ΠΎΠ»ΠΊΠ½ΡƒΠ»Π°ΡΡŒ с Ρ‚Π΅ΠΌ, Ρ‡Ρ‚ΠΎ Β«ΠΏΡ€Ρ‹ΠΆΠΎΠΊΒ» Π² ΠΌΠ°ΡΡˆΡ‚Π°Π±Π°Ρ… (Π½Π°ΠΏΡ€ΠΈΠΌΠ΅Ρ€, ΠΏΠ΅Ρ€Π΅Ρ…ΠΎΠ΄ ΠΎΡ‚ 10 000 Π΄ΠΎ 100 000 GPU) Π½Π΅ ΠΏΡ€ΠΎΡ‰Π°Π΅Ρ‚ ошибок планирования. АлСкс ΠΈ Амин ΠΏΠΎΠ΄Ρ‡Π΅Ρ€ΠΊΠΈΠ²Π°ΡŽΡ‚, Ρ‡Ρ‚ΠΎ стратСгия Β«ΠΎΠ΄Π½ΠΎΠ³ΠΎ большого Ρ€Π΅Π»ΠΈΠ·Π°Β» β€” это ΠΏΡƒΡ‚ΡŒ ΠΊ катастрофС. ВмСсто этого примСняСтся мСтодология ΠΈΡ‚Π΅Ρ€Π°Ρ‚ΠΈΠ²Π½ΠΎΠ³ΠΎ Π΄Π΅-рискинга (сниТСния рисков). Π­Ρ‚ΠΎ процСсс ΠΏΠΎΡΠ»Π΅Π΄ΠΎΠ²Π°Ρ‚Π΅Π»ΡŒΠ½ΠΎΠ³ΠΎ услоТнСния ΠΊΠΎΠ½Ρ„ΠΈΠ³ΡƒΡ€Π°Ρ†ΠΈΠΈ обучСния, Π³Π΄Π΅ ΠΊΠ°ΠΆΠ΄Ρ‹ΠΉ этап β€” это Β«ΠΏΡ€ΠΎΠ³ΠΎΠ½Β» ΠΌΠΎΠ΄Π΅Π»ΠΈ, ΠΏΠΎΠ΄Ρ‚Π²Π΅Ρ€ΠΆΠ΄Π°ΡŽΡ‰ΠΈΠΉ ΡΠΎΡΡ‚ΠΎΡΡ‚Π΅Π»ΡŒΠ½ΠΎΡΡ‚ΡŒ Π°Ρ€Ρ…ΠΈΡ‚Π΅ΠΊΡ‚ΡƒΡ€Π½Ρ‹Ρ… Ρ€Π΅ΡˆΠ΅Π½ΠΈΠΉ. ИспользованиС ΠΏΡ€ΠΎΠΌΠ΅ΠΆΡƒΡ‚ΠΎΡ‡Π½Ρ‹Ρ… запусков позволяСт ΠΊΠΎΠΌΠ°Π½Π΄Π΅ Π²ΠΈΠ΄Π΅Ρ‚ΡŒ, ΠΊΠ°ΠΊ Π²Π΅Π΄ΡƒΡ‚ сСбя Π³ΠΈΠΏΠ΅Ρ€ΠΏΠ°Ρ€Π°ΠΌΠ΅Ρ‚Ρ€Ρ‹ ΠΈ сСтСвыС ΠΏΡ€ΠΎΡ‚ΠΎΠΊΠΎΠ»Ρ‹ ΠΏΡ€ΠΈ ΠΈΠ·ΠΌΠ΅Π½Π΅Π½ΠΈΠΈ Ρ‚ΠΎΠΏΠΎΠ»ΠΎΠ³ΠΈΠΈ, Π½Π΅ доТидаясь Ρ„ΠΈΠ½Π°Π»Π° многомСсячного обучСния. Π’ Π²ΠΈΠ΄Π΅ΠΎ приводится ΠΏΡ€ΠΈΠΌΠ΅Ρ€, ΠΊΠΎΠ³Π΄Π° ΠΊΠΎΠΌΠ°Π½Π΄Π° Π·Π° 6–9 мСсяцСв Π΄ΠΎ основного Β«GoΒ» ΠΏΡ€ΠΎΠ²ΠΎΠ΄ΠΈΠ»Π° ΡΠ΅Ρ€ΠΈΡŽ ΠΊΡ€ΡƒΠΏΠ½ΠΎΠΌΠ°ΡΡˆΡ‚Π°Π±Π½Ρ‹Ρ… тСстов. Π­Ρ‚ΠΈ запуски Π½Π΅ Π±Ρ‹Π»ΠΈ ΠΏΠΎΠΏΡ‹Ρ‚ΠΊΠΎΠΉ ΠΎΠ±ΡƒΡ‡ΠΈΡ‚ΡŒ Π³ΠΎΡ‚ΠΎΠ²ΡƒΡŽ модСль; это Π±Ρ‹Π»Π° ΠΏΡ€ΠΎΠ²Π΅Ρ€ΠΊΠ° Β«Π·Π΄ΠΎΡ€ΠΎΠ²ΡŒΡΒ» инфраструктуры. Команда Π½Π°Ρ‡ΠΈΠ½Π°Π»Π° с ΠΏΡ€ΠΎΠ²Π΅Ρ€Π΅Π½Π½ΠΎΠΉ ΠΊΠΎΠ½Ρ„ΠΈΠ³ΡƒΡ€Π°Ρ†ΠΈΠΈ (GPT-4), постСпСнно «наслаивая» Π½Π° Π½Π΅Ρ‘ Π½ΠΎΠ²Ρ‹Π΅ ΠΊΠΎΠΌΠΏΠΎΠ½Π΅Π½Ρ‚Ρ‹ систСмы. Вакая Ρ‚Π°ΠΊΡ‚ΠΈΠΊΠ° ΠΏΠΎΠ·Π²ΠΎΠ»ΠΈΠ»Π° ΠΎΠ±Π½Π°Ρ€ΡƒΠΆΠΈΡ‚ΡŒ ΠΏΠΎΡ‚Π΅Π½Ρ†ΠΈΠ°Π»ΡŒΠ½Ρ‹Π΅ Β«performance cliffsΒ» β€” ΠΌΠΎΠΌΠ΅Π½Ρ‚Ρ‹ Ρ€Π΅Π·ΠΊΠΎΠ³ΠΎ падСния ΠΏΡ€ΠΎΠΈΠ·Π²ΠΎΠ΄ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎΡΡ‚ΠΈ, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ ΠΌΠΎΠ³Π»ΠΈ Π±Ρ‹ ΡΠ΄Π΅Π»Π°Ρ‚ΡŒ Ρ„ΠΈΠ½Π°Π»ΡŒΠ½ΡƒΡŽ модСль фактичСски Π½Π΅Ρ‚Ρ€Π΅Π½ΠΈΡ€ΡƒΠ΅ΠΌΠΎΠΉ. Если Π±Ρ‹ Π°Ρ€Ρ…ΠΈΡ‚Π΅ΠΊΡ‚ΠΎΡ€Ρ‹ просто Π΄ΠΎΠ²Π΅Ρ€ΠΈΠ»ΠΈΡΡŒ тСорСтичСским расчСтам, ΠΎΠ½ΠΈ Π±Ρ‹ Π½Π΅ΠΈΠ·Π±Π΅ΠΆΠ½ΠΎ ΡΡ‚ΠΎΠ»ΠΊΠ½ΡƒΠ»ΠΈΡΡŒ с этими Β«ΠΎΠ±Ρ€Ρ‹Π²Π°ΠΌΠΈΒ» Π½Π° этапС обучСния GPT-4.5, потСряв мСсяцы Π²Ρ€Π΅ΠΌΠ΅Π½ΠΈ ΠΈ ΠΌΠΈΠ»Π»ΠΈΠΎΠ½Ρ‹ Π΄ΠΎΠ»Π»Π°Ρ€ΠΎΠ² Π½Π° compute. Π’Π°ΠΆΠ½Ρ‹ΠΌ элСмСнтом ΠΈΡ‚Π΅Ρ€Π°Ρ‚ΠΈΠ²Π½ΠΎΠ³ΠΎ ΠΏΠΎΠ΄Ρ…ΠΎΠ΄Π° являСтся Β«ΠΊΡƒΠ»ΡŒΡ‚ΡƒΡ€Π° ΠΏΠ°Ρ€Π°Π½ΠΎΠΉΠΈΒ», ΠΎ ΠΊΠΎΡ‚ΠΎΡ€ΠΎΠΉ Π³ΠΎΠ²ΠΎΡ€ΠΈΡ‚ АлСкс. Π˜Π½ΠΆΠ΅Π½Π΅Ρ€Ρ‹ Π½Π΅ просто мониторят Loss (Ρ„ΡƒΠ½ΠΊΡ†ΠΈΡŽ ΠΏΠΎΡ‚Π΅Ρ€ΡŒ), ΠΎΠ½ΠΈ слСдят Π·Π° Ρ‚Π΅ΠΌ, Ρ‡Ρ‚ΠΎΠ±Ρ‹ ΠΊΠ°ΠΆΠ΄Ρ‹ΠΉ Π²Ρ‹ΠΈΠ³Ρ€Ρ‹Ρˆ Π² эффСктивности, ΠΏΠΎΠ»ΡƒΡ‡Π΅Π½Π½Ρ‹ΠΉ Π½Π° ΠΌΠ°Π»Ρ‹Ρ… Π΄Π°Π½Π½Ρ‹Ρ…, ΠΌΠ°ΡΡˆΡ‚Π°Π±ΠΈΡ€ΠΎΠ²Π°Π»ΡΡ Π»ΠΈΠ½Π΅ΠΉΠ½ΠΎ. Часто Π±Ρ‹Π²Π°Π΅Ρ‚ Ρ‚Π°ΠΊ, Ρ‡Ρ‚ΠΎ оптимизация, которая выглядит блСстящС Π½Π° 100 GPU, тСряСт всякий смысл ΠΏΡ€ΠΈ ΠΏΠ΅Ρ€Π΅Ρ…ΠΎΠ΄Π΅ Π½Π° 10 000. ΠŸΠΎΡΡ‚ΠΎΡΠ½Π½Π°Ρ валидация Π³ΠΈΠΏΠΎΡ‚Π΅Π· Ρ‡Π΅Ρ€Π΅Π· ΠΌΠΈΠΊΡ€ΠΎ-запуски позволяСт Β«ΠΎΡ‚ΡΠ΅Ρ‡ΡŒΒ» Π»ΠΎΠΆΠ½Ρ‹Π΅ ΠΎΠΏΡ‚ΠΈΠΌΠΈΠ·Π°Ρ†ΠΈΠΈ Π΅Ρ‰Π΅ Π΄ΠΎ Ρ‚ΠΎΠ³ΠΎ, ΠΊΠ°ΠΊ ΠΎΠ½ΠΈ станут Ρ‡Π°ΡΡ‚ΡŒΡŽ основного ΠΊΠΎΠ΄Π° обучСния. > «МногиС Π²Π΅Ρ‰ΠΈ выглядят Ρ…ΠΎΡ€ΠΎΡˆΠΎ Π½Π° ΠΌΠ°Π»ΠΎΠΌ ΠΌΠ°ΡΡˆΡ‚Π°Π±Π΅, Π½ΠΎ ΡΠΎΠ²Π΅Ρ€ΡˆΠ΅Π½Π½ΠΎ Π½Π΅ Ρ€Π°Π±ΠΎΡ‚Π°ΡŽΡ‚ ΠΏΡ€ΠΈ ΠΏΠ΅Ρ€Π΅Ρ…ΠΎΠ΄Π΅ ΠΊ гигантским кластСрам. ΠœΡ‹ Π±Ρ‹Π»ΠΈ ΠΏΠ°Ρ€Π°Π½ΠΎΠΈΠ΄Π°Π»ΡŒΠ½ΠΎ остороТны: Π½Π΅ просто искали win ΠΎΡ‚ Π½ΠΎΠ²Ρ‹Ρ… Ρ„ΠΈΡ‡, Π° провСряли, Ρ‡Ρ‚ΠΎΠ±Ρ‹ этот Π²Ρ‹ΠΈΠ³Ρ€Ρ‹Ρˆ сохранялся ΠΈ Π½Π΅ Π·Π°Ρ‚ΡƒΡ…Π°Π» ΠΏΡ€ΠΈ ΠΌΠ°ΡΡˆΡ‚Π°Π±ΠΈΡ€ΠΎΠ²Π°Π½ΠΈΠΈ. Π­Ρ‚ΠΎ Π±Ρ‹Π»Π° наша основная ΠΌΠ΅Ρ‚ΠΎΠ΄ΠΈΠΊΠ° сниТСния рисков». β€” АлСкс, Π›ΠΈΠ΄Π΅Ρ€ направлСния ΠΏΡ€Π΅Π΄-обучСния. βœ… Π‘Π΄Π΅Π»Π°ΠΉΡ‚Π΅ сСйчас: Π Π°Π·Π±Π΅ΠΉΡ‚Π΅ ваш ΠΏΠ»Π°Π½ ΠΏΡ€ΠΎΠ΅ΠΊΡ‚Π° Π½Π° Β«ΠΌΠΈΠΊΡ€ΠΎ-Π·Π°Π΄Π°Ρ‡ΠΈΒ» ΠΏΠΎ ΠΌΠ°ΡΡˆΡ‚Π°Π±ΠΈΡ€ΠΎΠ²Π°Π½ΠΈΡŽ. ВмСсто Ρ‚ΠΎΠ³ΠΎ Ρ‡Ρ‚ΠΎΠ±Ρ‹ ΠΏΠ»Π°Π½ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ ΠΎΠ΄ΠΈΠ½ большой Ρ€Π΅Π»ΠΈΠ·, Π²Ρ‹Π΄Π΅Π»ΠΈΡ‚Π΅ 3 ΠΊΠΎΠ½Ρ‚Ρ€ΠΎΠ»ΡŒΠ½Ρ‹Π΅ Ρ‚ΠΎΡ‡ΠΊΠΈ, Π³Π΄Π΅ Π²Ρ‹ Π±ΡƒΠ΄Π΅Ρ‚Π΅ ΠΏΡ€ΠΎΠ²ΠΎΠ΄ΠΈΡ‚ΡŒ Π½Π°Π³Ρ€ΡƒΠ·ΠΎΡ‡Π½ΠΎΠ΅ тСстированиС Π½Π° критичСских ΠΊΠΎΠΌΠΏΠΎΠ½Π΅Π½Ρ‚Π°Ρ…. Для ΠΊΠ°ΠΆΠ΄ΠΎΠΉ Ρ‚ΠΎΡ‡ΠΊΠΈ сформулируйтС Π³ΠΈΠΏΠΎΡ‚Π΅Π·Ρƒ (Π½Π°ΠΏΡ€ΠΈΠΌΠ΅Ρ€: Β«ΠΏΡ€ΠΈ ΡƒΠ²Π΅Π»ΠΈΡ‡Π΅Π½ΠΈΠΈ Π±Π°Ρ‚Ρ‡Π° Π½Π° 20% ΡΠ΅Ρ‚ΡŒ Π²Ρ‹Π΄Π΅Ρ€ΠΆΠΈΡ‚ Π½Π°Π³Ρ€ΡƒΠ·ΠΊΡƒ Π±Π΅Π· роста latencyΒ»). Если Π³ΠΈΠΏΠΎΡ‚Π΅Π·Π° Π½Π΅ подтвСрТдаСтся Π½Π° ΠΌΠ°Π»ΠΎΠΌ ΠΌΠ°ΡΡˆΡ‚Π°Π±Π΅ β€” Π½Π΅ Π΄Π²ΠΈΠ³Π°ΠΉΡ‚Π΅ΡΡŒ дальшС, ΠΏΠΎΠΊΠ° Π½Π΅ ΠΎΠΏΡ‚ΠΈΠΌΠΈΠ·ΠΈΡ€ΡƒΠ΅Ρ‚Π΅ ΠΊΠΎΠ΄ ΠΏΠΎΠ΄ эти условия. 4. ΠŸΠ΅Ρ€Π΅Ρ…ΠΎΠ΄ ΠΊ Data Efficiency: качСство Π²Π°ΠΆΠ½Π΅Π΅ объСма Дэн, экспСрт ΠΏΠΎ эффСктивности Π΄Π°Π½Π½Ρ‹Ρ…, ΠΏΠΎΠ΄Π½ΠΈΠΌΠ°Π΅Ρ‚ Ρ„ΡƒΠ½Π΄Π°ΠΌΠ΅Π½Ρ‚Π°Π»ΡŒΠ½Ρ‹ΠΉ вопрос: стоит Π»ΠΈ Π½Π°ΠΌ бСсконСчно Π½Π°Ρ€Π°Ρ‰ΠΈΠ²Π°Ρ‚ΡŒ compute? Π”ΠΎ Π½Π΅Π΄Π°Π²Π½Π΅Π³ΠΎ Π²Ρ€Π΅ΠΌΠ΅Π½ΠΈ вся индустрия ΠΆΠΈΠ»Π° Π² ΠΏΠ°Ρ€Π°Π΄ΠΈΠ³ΠΌΠ΅ Β«compute-constrainedΒ», Π³Π΄Π΅ СдинствСнным ΠΏΡƒΡ‚Π΅ΠΌ ΠΊ успСху Π±Ρ‹Π»ΠΎ ΡƒΠ²Π΅Π»ΠΈΡ‡Π΅Π½ΠΈΠ΅ количСства GPU. Однако, начиная с GPT-4.5, стало ΠΎΡ‡Π΅Π²ΠΈΠ΄Π½ΠΎ, Ρ‡Ρ‚ΠΎ Π΄Π°Π½Π½Ρ‹Π΅ становятся ΡƒΠ·ΠΊΠΈΠΌ мСстом. ΠœΡ‹ Π²Ρ…ΠΎΠ΄ΠΈΠΌ Π² эру, Π³Π΄Π΅ алгоритмичСская ΡΡ„Ρ„Π΅ΠΊΡ‚ΠΈΠ²Π½ΠΎΡΡ‚ΡŒ β€” ΡΠΏΠΎΡΠΎΠ±Π½ΠΎΡΡ‚ΡŒ ΠΈΠ·Π²Π»Π΅ΠΊΠ°Ρ‚ΡŒ большС Π·Π½Π°Π½ΠΈΠΉ ΠΈΠ· Ρ‚ΠΎΠ³ΠΎ ΠΆΠ΅ объСма Π΄Π°Π½Π½Ρ‹Ρ… β€” становится Π±ΠΎΠ»Π΅Π΅ Ρ†Π΅Π½Π½Ρ‹ΠΌ рСсурсом, Ρ‡Π΅ΠΌ доступ ΠΊ Π΄ΠΎΠΏΠΎΠ»Π½ΠΈΡ‚Π΅Π»ΡŒΠ½Ρ‹ΠΌ Π²Ρ‹Ρ‡ΠΈΡΠ»ΠΈΡ‚Π΅Π»ΡŒΠ½Ρ‹ΠΌ мощностям. Π’ Π²ΠΈΠ΄Π΅ΠΎ обсуТдаСтся, Ρ‡Ρ‚ΠΎ GPT-трансформСры Π²Π΅Π»ΠΈΠΊΠΎΠ»Π΅ΠΏΠ½ΠΎ ΠΏΠΎΠ³Π»ΠΎΡ‰Π°ΡŽΡ‚ ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΡŽ, Π½ΠΎ ΠΈΡ… ΡΠΏΠΎΡΠΎΠ±Π½ΠΎΡΡ‚ΡŒ ΠΊ Β«Π³Π»ΡƒΠ±ΠΎΠΊΠΎΠΌΡƒ инсайту» ΠΈΠΌΠ΅Π΅Ρ‚ ΠΏΠΎΡ‚ΠΎΠ»ΠΎΠΊ. Π‘Ρ‚Π°Π½Π΄Π°Ρ€Ρ‚Π½Ρ‹ΠΉ ΠΌΠ΅Ρ‚ΠΎΠ΄ Β«ΡΠΎΠ±Ρ€Π°Ρ‚ΡŒ вСсь ΠΈΠ½Ρ‚Π΅Ρ€Π½Π΅Ρ‚ ΠΈ ΡΠΊΠΎΡ€ΠΌΠΈΡ‚ΡŒ Π΅Π³ΠΎ ΠΌΠΎΠ΄Π΅Π»ΠΈΒ» Π½Π°Ρ‡ΠΈΠ½Π°Π΅Ρ‚ Π΄Π°Π²Π°Ρ‚ΡŒ ΡƒΠ±Ρ‹Π²Π°ΡŽΡ‰ΡƒΡŽ ΠΎΡ‚Π΄Π°Ρ‡Ρƒ. Π˜Π½Π½ΠΎΠ²Π°Ρ†ΠΈΡ здСсь кроСтся Π² ΠΏΠ΅Ρ€Π΅Ρ…ΠΎΠ΄Π΅ ΠΊ Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌΠ°ΠΌ, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ ΠΏΠΎΠ·Π²ΠΎΠ»ΡΡŽΡ‚ Ρ‚Ρ€Π°Ρ‚ΠΈΡ‚ΡŒ Π²Ρ‹Ρ‡ΠΈΡΠ»ΠΈΡ‚Π΅Π»ΡŒΠ½Ρ‹Π΅ рСсурсы Π½Π΅ Π½Π° простоС ΠΏΠ΅Ρ€Π΅Ρ‡ΠΈΡ‚Ρ‹Π²Π°Π½ΠΈΠ΅ Π΄Π°Π½Π½Ρ‹Ρ…, Π° Π½Π° Π±ΠΎΠ»Π΅Π΅ Π³Π»ΡƒΠ±ΠΎΠΊΠΎΠ΅ ΠΈΡ… ΠΏΠΎΠ½ΠΈΠΌΠ°Π½ΠΈΠ΅. Дэн сравниваСт это с ΠΎΠ±ΡƒΡ‡Π΅Π½ΠΈΠ΅ΠΌ Ρ‡Π΅Π»ΠΎΠ²Π΅ΠΊΠ°: ΠΌΡ‹ Π½Π΅ Ρ‡ΠΈΡ‚Π°Π΅ΠΌ Ρ‚Π΅Ρ€Π°Π±Π°ΠΉΡ‚Ρ‹ тСкстов Π΅ΠΆΠ΅Π΄Π½Π΅Π²Π½ΠΎ, Π½ΠΎ ΠΈΠ·Π²Π»Π΅ΠΊΠ°Π΅ΠΌ ΠΈΠ· ΠΏΡ€ΠΎΡ‡ΠΈΡ‚Π°Π½Π½ΠΎΠ³ΠΎ слоТныС Π°Π½Π°Π»ΠΎΠ³ΠΈΠΈ, абстракции ΠΈ логичСскиС связи. Π‘ΠΎΠ²Ρ€Π΅ΠΌΠ΅Π½Π½Ρ‹Π΅ ΠΌΠ΅Ρ‚ΠΎΠ΄Ρ‹ обучСния Π΄ΠΎΠ»ΠΆΠ½Ρ‹ ΠΈΠΌΠΈΡ‚ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ этот процСсс компрСссии, прСвращая «сырыС» Π΄Π°Π½Π½Ρ‹Π΅ Π² сТатыС, высококачСствСнныС знания. ΠŸΡ€ΠΎΠ±Π»Π΅ΠΌΠ° Β«Π΄Π΅Π³Π΅Π½Π΅Ρ€Π°Ρ‚ΠΈΠ²Π½ΠΎΠ³ΠΎ запоминания» β€” Π΅Ρ‰Π΅ ΠΎΠ΄ΠΈΠ½ Π²Π°ΠΆΠ½Ρ‹ΠΉ аспСкт этой Ρ‚Π΅ΠΌΡ‹. Если ΠΏΡ€ΠΈ ΠΎΡ†Π΅Π½ΠΊΠ΅ ΠΌΠΎΠ΄Π΅Π»ΠΈ ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚ΡŒ Π΄Π°Π½Π½Ρ‹Π΅, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ Ρ…ΠΎΡ‚ΡŒ ΠΊΠ°ΠΊ-Ρ‚ΠΎ ΠΏΠ΅Ρ€Π΅ΡΠ΅ΠΊΠ°ΡŽΡ‚ΡΡ с ΠΎΠ±ΡƒΡ‡Π°ΡŽΡ‰Π΅ΠΉ Π²Ρ‹Π±ΠΎΡ€ΠΊΠΎΠΉ, ΠΌΠ΅Ρ‚Ρ€ΠΈΠΊΠΈ Π±ΡƒΠ΄ΡƒΡ‚ искусствСнно Π·Π°Π²Ρ‹ΡˆΠ΅Π½Ρ‹. Команда OpenAI Π΄Π΅Π»Π°Π΅Ρ‚ ΡƒΠΏΠΎΡ€ Π½Π° использованиС Β«Π·Π°ΠΊΡ€Ρ‹Ρ‚Ρ‹Ρ… Ρ€Π΅ΠΏΠΎΠ·ΠΈΡ‚ΠΎΡ€ΠΈΠ΅Π²Β» ΠΈ спСцифичСских Π²Π½ΡƒΡ‚Ρ€Π΅Π½Π½ΠΈΡ… Π±Π΅Π½Ρ‡ΠΌΠ°Ρ€ΠΊΠΎΠ², ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ Π³Π°Ρ€Π°Π½Ρ‚ΠΈΡ€ΠΎΠ²Π°Π½Π½ΠΎ ΠΎΡ‚ΡΡƒΡ‚ΡΡ‚Π²ΡƒΡŽΡ‚ Π² ΠΈΠ½Ρ‚Π΅Ρ€Π½Π΅Ρ‚Π΅. Π­Ρ‚ΠΎ позволяСт ΠΎΡ†Π΅Π½ΠΈΡ‚ΡŒ Ρ€Π΅Π°Π»ΡŒΠ½ΡƒΡŽ ΡΠΏΠΎΡΠΎΠ±Π½ΠΎΡΡ‚ΡŒ ΠΌΠΎΠ΄Π΅Π»ΠΈ ΠΊ ΠΎΠ±ΠΎΠ±Ρ‰Π΅Π½ΠΈΡŽ (generalization), Π° Π½Π΅ просто Π΅Ρ‘ ΡƒΠΌΠ΅Π½ΠΈΠ΅ Β«Ρ†ΠΈΡ‚ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒΒ» Π²Ρ‹ΡƒΡ‡Π΅Π½Π½Ρ‹Π΅ Ρ„Ρ€Π°Π³ΠΌΠ΅Π½Ρ‚Ρ‹ ΠΊΠΎΠ΄Π° ΠΈΠ»ΠΈ тСкстов. ΠžΡ†Π΅Π½ΠΊΠ° ΠΌΠΎΠ΄Π΅Π»ΠΈ β€” это Π½Π΅ Ρ‚ΠΎΠ»ΡŒΠΊΠΎ ΠΌΠ°Ρ‚Π΅ΠΌΠ°Ρ‚ΠΈΠΊΠ°, Π½ΠΎ ΠΈ дисциплина ΠΈΡΠΊΠ»ΡŽΡ‡Π΅Π½ΠΈΡ Β«Π·Π½Π°ΠΊΠΎΠΌΡ‹Ρ…Β» Π΄Π°Π½Π½Ρ‹Ρ… ΠΈΠ· процСсса Π²Π°Π»ΠΈΠ΄Π°Ρ†ΠΈΠΈ. Как ΠΎΡ‚ΠΌΠ΅Ρ‡Π°ΡŽΡ‚ экспСрты, ΠΌΡ‹ находимся Π½Π° ΠΏΠΎΡ€ΠΎΠ³Π΅ смСны ΠΏΠ°Ρ€Π°Π΄ΠΈΠ³ΠΌΡ‹. Если Ρ€Π°Π½ΡŒΡˆΠ΅ ΠΌΡ‹ ΠΎΠΏΡ‚ΠΈΠΌΠΈΠ·ΠΈΡ€ΠΎΠ²Π°Π»ΠΈ Β«ΠΆΠ΅Π»Π΅Π·ΠΎΒ» ΠΏΠΎΠ΄ Π΄Π°Π½Π½Ρ‹Π΅, Ρ‚ΠΎ Ρ‚Π΅ΠΏΠ΅Ρ€ΡŒ ΠΌΡ‹ Π½Π°Ρ‡ΠΈΠ½Π°Π΅ΠΌ ΠΎΠΏΡ‚ΠΈΠΌΠΈΠ·ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ Β«Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌΡ‹Β» ΠΏΠΎΠ΄ ΠΈΡ… ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΠΎΠ½Π½ΡƒΡŽ ΠΏΠ»ΠΎΡ‚Π½ΠΎΡΡ‚ΡŒ. Π­Ρ‚ΠΎ Ρ‚Ρ€Π΅Π±ΡƒΠ΅Ρ‚ Π³Π»ΡƒΠ±ΠΎΠΊΠΎΠΉ Π½Π°ΡƒΡ‡Π½ΠΎΠΉ Ρ€Π°Π±ΠΎΡ‚Ρ‹: Π½ΡƒΠΆΠ½ΠΎ ΠΏΠΎΠ½ΠΈΠΌΠ°Ρ‚ΡŒ, ΠΊΠ°ΠΊΠΈΠ΅ ΠΈΠΌΠ΅Π½Π½ΠΎ ΠΏΠ°Ρ‚Ρ‚Π΅Ρ€Π½Ρ‹ Π² Π΄Π°Π½Π½Ρ‹Ρ… ΡΠ²Π»ΡΡŽΡ‚ΡΡ Β«Ρ†Π΅Π½Π½Ρ‹ΠΌΠΈΒ» (long tail), Π° ΠΊΠ°ΠΊΠΈΠ΅ β€” просто ΡˆΡƒΠΌΠΎΠΌ. Π’ Π±ΡƒΠ΄ΡƒΡ‰Π΅ΠΌ побСдят Ρ‚Π΅ систСмы, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ смогут ΠΈΠ·Π²Π»Π΅ΠΊΠ°Ρ‚ΡŒ «хвост» распрСдСлСния Π·Π½Π°Π½ΠΈΠΉ, Ρ‚ΠΎ Π΅ΡΡ‚ΡŒ Ρ€Π΅Π΄ΠΊΠΈΠ΅, Π½ΠΎ критичСски Π²Π°ΠΆΠ½Ρ‹Π΅ ΠΊΠΎΠ½Ρ†Π΅ΠΏΡ†ΠΈΠΈ, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ сСйчас Ρ‚Π΅Ρ€ΡΡŽΡ‚ΡΡ Π² ΠΎΠ³Ρ€ΠΎΠΌΠ½ΠΎΠΌ массивС нСструктурированного ΠΊΠΎΠ½Ρ‚Π΅Π½Ρ‚Π°. Π­Ρ‚ΠΎ ΠΏΡƒΡ‚ΡŒ ΠΎΡ‚ экстСнсивного роста ΠΊ интСнсивному Ρ€Π°Π·Π²ΠΈΡ‚ΠΈΡŽ нСйросСтСй. --- 5. ΠšΡƒΠ»ΡŒΡ‚ΡƒΡ€Π° прСодолСния нСопрСдСлСнности: Ρ€Π°Π±ΠΎΡ‚Π° с Π°ΠΏΠΏΠ°Ρ€Π°Ρ‚Π½Ρ‹ΠΌΠΈ Β«ΡˆΡƒΠΌΠ°ΠΌΠΈΒ» Π’ процСссС обучСния ΠΌΠΎΠ΄Π΅Π»Π΅ΠΉ ΠΌΠ°ΡΡˆΡ‚Π°Π±Π° GPT-4.5 инТСнСрная Π³Ρ€ΡƒΠΏΠΏΠ° Π½Π΅ΠΈΠ·Π±Π΅ΠΆΠ½ΠΎ сталкиваСтся с Ρ‚Π΅ΠΌ, Ρ‡Ρ‚ΠΎ идСальная тСорСтичСская модСль обучСния сталкиваСтся с хаосом Β«ΠΆΠ΅Π»Π΅Π·Π°Β». АлСкс ΠΈ Амин ΠΏΠΎΠ΄Ρ‡Π΅Ρ€ΠΊΠΈΠ²Π°ΡŽΡ‚: запуск гигантской систСмы β€” это Π½Π΅ Π°ΠΊΡ‚ программирования, Π° Π°ΠΊΡ‚ управлСния энтропиСй. На 100 000 GPU Π²Π΅Ρ€ΠΎΡΡ‚Π½ΠΎΡΡ‚ΡŒ Ρ‚ΠΎΠ³ΠΎ, Ρ‡Ρ‚ΠΎ Π² ΠΊΠ°ΠΊΠΎΠΉ-Ρ‚ΠΎ ΠΌΠΎΠΌΠ΅Π½Ρ‚ Π²Ρ€Π΅ΠΌΠ΅Π½ΠΈ всё ΠΎΠ±ΠΎΡ€ΡƒΠ΄ΠΎΠ²Π°Π½ΠΈΠ΅ Π±ΡƒΠ΄Π΅Ρ‚ Ρ€Π°Π±ΠΎΡ‚Π°Ρ‚ΡŒ идСально, практичСски Ρ€Π°Π²Π½Π° Π½ΡƒΠ»ΡŽ. Π’ Π²ΠΈΠ΄Π΅ΠΎ Π·Π²ΡƒΡ‡ΠΈΡ‚ ΠΊΠ»ΡŽΡ‡Π΅Π²Π°Ρ ΠΌΡ‹ΡΠ»ΡŒ: Π½Π΅ΠΎΠ±Ρ…ΠΎΠ΄ΠΈΠΌΠΎ ΠΎΡ‚ΠΊΠ°Π·Π°Ρ‚ΡŒΡΡ ΠΎΡ‚ иллюзии «чистого» запуска. Команда OpenAI Ρ€Π°Π·Ρ€Π°Π±ΠΎΡ‚Π°Π»Π° систСму ΠΌΠΎΠ½ΠΈΡ‚ΠΎΡ€ΠΈΠ½Π³Π°, которая Π½Π΅ просто фиксируСт сбои, Π½ΠΎ позволяСт ΠΏΡ€ΠΎΠ²ΠΎΠ΄ΠΈΡ‚ΡŒ Π³Π»ΡƒΠ±ΠΎΠΊΡƒΡŽ диагностику Β«Π½Π° Π»Π΅Ρ‚ΡƒΒ», отдСляя критичСскиС ошибки (ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ Ρ‚Ρ€Π΅Π±ΡƒΡŽΡ‚ остановки обучСния) ΠΎΡ‚ Π°ΠΏΠΏΠ°Ρ€Π°Ρ‚Π½ΠΎΠ³ΠΎ ΡˆΡƒΠΌΠ° ΠΈΠ»ΠΈ Ρ€Π΅Π΄ΠΊΠΈΡ… ошибок вычислСний, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ ΠΌΠΎΠΆΠ½ΠΎ ΠΈΠ³Π½ΠΎΡ€ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ ΠΈΠ»ΠΈ ΠΈΡΠΏΡ€Π°Π²ΠΈΡ‚ΡŒ локально. Один ΠΈΠ· самых ярких ΠΏΡ€ΠΈΠΌΠ΅Ρ€ΠΎΠ² β€” это история с Β«Π±Π°Π³ΠΎΠΌ Π² torch.sumΒ». Π˜Π½ΠΆΠ΅Π½Π΅Ρ€Ρ‹ Π΄ΠΎΠ»Π³ΠΎΠ΅ врСмя наблюдали Π°Π½ΠΎΠΌΠ°Π»ΠΈΠΈ Π² Ρ€Π°Π±ΠΎΡ‚Π΅ сСти, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ ΠΈΠΌΠ΅Π»ΠΈ Ρ€Π°Π·Π½Ρ‹Π΅ симптомы. ВмСсто Ρ‚ΠΎΠ³ΠΎ Ρ‡Ρ‚ΠΎΠ±Ρ‹ ΠΏΠ°Π½ΠΈΠΊΠΎΠ²Π°Ρ‚ΡŒ ΠΈ ΠΎΡΡ‚Π°Π½Π°Π²Π»ΠΈΠ²Π°Ρ‚ΡŒ процСсс (Ρ‡Ρ‚ΠΎ стоило Π±Ρ‹ ΠΎΠ³Ρ€ΠΎΠΌΠ½Ρ‹Ρ… Π΄Π΅Π½Π΅Π³), ΠΊΠΎΠΌΠ°Π½Π΄Π° ΠΎΡ€Π³Π°Π½ΠΈΠ·ΠΎΠ²Π°Π»Π° «голосованиС»: ΠΊΠ°ΠΆΠ΄Ρ‹ΠΉ ΠΈΠ½ΠΆΠ΅Π½Π΅Ρ€ ΠΏΡ€Π΅Π΄Π»Π°Π³Π°Π» свою Π²Π΅Ρ€ΡΠΈΡŽ ΠΏΡ€ΠΈΡ‡ΠΈΠ½Ρ‹. Π’ ΠΈΡ‚ΠΎΠ³Π΅, Π½Π°ΠΈΠ±ΠΎΠ»Π΅Π΅ вСроятная вСрсия оказалась Π»ΠΎΠΆΠ½ΠΎΠΉ, Π° истинной ΠΏΡ€ΠΈΡ‡ΠΈΠ½ΠΎΠΉ стал Ρ€Π΅Π΄ΠΊΠΈΠΉ Π±Π°Π³ Π² Ρ€Π΅Π°Π»ΠΈΠ·Π°Ρ†ΠΈΠΈ ΠΎΠΏΠ΅Ρ€Π°Ρ†ΠΈΠΈ суммирования, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ проявлялся Ρ‚ΠΎΠ»ΡŒΠΊΠΎ ΠΏΡ€ΠΈ спСцифичСском распрСдСлСнии Π΄Π°Π½Π½Ρ‹Ρ…. Π­Ρ‚ΠΎ ΡƒΡ‡ΠΈΡ‚ нас Ρ‚ΠΎΠΌΡƒ, Ρ‡Ρ‚ΠΎ Π² условиях ΠΌΠ°ΡΡˆΡ‚Π°Π±Π° чСловСчСская интуиция Π΄ΠΎΠ»ΠΆΠ½Π° Π΄ΠΎΠΏΠΎΠ»Π½ΡΡ‚ΡŒΡΡ строгой ΠΌΠ΅Ρ‚ΠΎΠ΄ΠΎΠ»ΠΎΠ³ΠΈΠ΅ΠΉ Π°Π½Π°Π»ΠΈΠ·Π° Π»ΠΎΠ³ΠΎΠ². ΠšΡƒΠ»ΡŒΡ‚ΡƒΡ€Π° Β«ΠΎΡ‚Π»Π°Π΄ΠΊΠΈ Π²ΠΎ врСмя Π±Π΅Π³Π°Β» Ρ‚Ρ€Π΅Π±ΡƒΠ΅Ρ‚ ΠΎΡ‚ ΠΈΠ½ΠΆΠ΅Π½Π΅Ρ€ΠΎΠ² Π½Π΅ Ρ‚ΠΎΠ»ΡŒΠΊΠΎ Π·Π½Π°Π½ΠΈΠΉ Π² Π°Ρ€Ρ…ΠΈΡ‚Π΅ΠΊΡ‚ΡƒΡ€Π΅ нСйросСтСй, Π½ΠΎ ΠΈ Π½Π°Π²Ρ‹ΠΊΠΎΠ² систСмного администрирования уровня ядра. Π‘ΠΎΠ»Π΅Π΅ Ρ‚ΠΎΠ³ΠΎ, ΠΏΠΎΠ½ΠΈΠΌΠ°Π½ΠΈΠ΅ Ρ‚ΠΎΠ³ΠΎ, Ρ‡Ρ‚ΠΎ модСль Β«ΠΏΡ€ΠΎΠ΄ΠΎΠ»ΠΆΠ°Π΅Ρ‚ ΡƒΡ‡ΠΈΡ‚ΡŒΡΡΒ», нСсмотря Π½Π° тСхничСскиС сбои, мСняСт Ρ„ΠΈΠ»ΠΎΡΠΎΡ„ΠΈΡŽ управлСния ΠΏΡ€ΠΎΠ΅ΠΊΡ‚ΠΎΠΌ. АлСкс ΠΎΡ‚ΠΌΠ΅Ρ‡Π°Π΅Ρ‚, Ρ‡Ρ‚ΠΎ ΠΌΠΎΡ€Π°Π»ΡŒΠ½Ρ‹ΠΉ Π΄ΡƒΡ… ΠΊΠΎΠΌΠ°Π½Π΄Ρ‹ Π½Π°ΠΏΡ€ΡΠΌΡƒΡŽ зависит ΠΎΡ‚ Ρ‚ΠΎΠ³ΠΎ, ΠΊΠ°ΠΊ ΠΈΠ½Ρ‚Π΅Ρ€ΠΏΡ€Π΅Ρ‚ΠΈΡ€ΡƒΡŽΡ‚ΡΡ Π΄Π°Π½Π½Ρ‹Π΅. Если ΠΈΠ½ΠΆΠ΅Π½Π΅Ρ€Ρ‹ видят Π² ΠΊΠ°ΠΆΠ΄ΠΎΠΉ ошибкС «катастрофу», ΠΎΠ½ΠΈ Π²Ρ‹Π³ΠΎΡ€Π°ΡŽΡ‚. Если ΠΎΠ½ΠΈ видят Π² Π½ΠΈΡ… Β«ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΡŽ ΠΎ ΠΏΠΎΠ²Π΅Π΄Π΅Π½ΠΈΠΈ систСмы», ΠΎΠ½ΠΈ становятся исслСдоватСлями. Π­Ρ‚ΠΎ Ρ€Π°Π·Π΄Π΅Π»Π΅Π½ΠΈΠ΅ ΡˆΡƒΠΌΠ° ΠΎΡ‚ сигнала β€” Π½Π°Π²Ρ‹ΠΊ β„–1 для соврСмСнного ML-Π»ΠΈΠ΄Π΅Ρ€Π°. Π’Ρ‹ Π΄ΠΎΠ»ΠΆΠ½Ρ‹ ΡΠΎΠ·Π΄Π°Ρ‚ΡŒ инфраструктуру, которая Π΄Π°Π΅Ρ‚ Π²Π°ΠΌ Β«Π²ΠΈΠ΄ΠΈΠΌΠΎΡΡ‚ΡŒΒ» (visibility) Ρ‚ΠΎΠ³ΠΎ, Ρ‡Ρ‚ΠΎ происходит Π² Π³Π»ΡƒΠ±ΠΈΠ½Π°Ρ… Ρ‚Π΅Π½Π·ΠΎΡ€Π½Ρ‹Ρ… вычислСний, Ρ‡Ρ‚ΠΎΠ±Ρ‹ Π½Π΅ Π³Π°Π΄Π°Ρ‚ΡŒ, Π° ΠΏΡ€ΠΈΠ½ΠΈΠΌΠ°Ρ‚ΡŒ Ρ€Π΅ΡˆΠ΅Π½ΠΈΡ Π½Π° основС Ρ„Π°ΠΊΡ‚ΠΎΠ². > Β«ΠœΡ‹ ΠΏΡ€ΠΈΠ²Ρ‹ΠΊΠ»ΠΈ ΠΊ Ρ‚ΠΎΠΌΡƒ, Ρ‡Ρ‚ΠΎ ΠΎΠ±ΡƒΡ‡Π΅Π½ΠΈΠ΅ Π½ΠΈΠΊΠΎΠ³Π΄Π° Π½Π΅ Π±Ρ‹Π²Π°Π΅Ρ‚ ΠΈΠ΄Π΅Π°Π»ΡŒΠ½Ρ‹ΠΌ. ΠœΡ‹ Π½Π°ΡƒΡ‡ΠΈΠ»ΠΈΡΡŒ ΠΎΡ‚Π»ΠΈΡ‡Π°Ρ‚ΡŒ критичСскиС Π°ΠΏΠΏΠ°Ρ€Π°Ρ‚Π½Ρ‹Π΅ сбои ΠΎΡ‚ ΠΌΠ΅Π»ΠΊΠΈΡ… Π°Ρ€Ρ‚Π΅Ρ„Π°ΠΊΡ‚ΠΎΠ² вычислСний, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ Π½Π΅ ΠΌΠ΅ΡˆΠ°ΡŽΡ‚ ΠΌΠΎΠ΄Π΅Π»ΠΈ расти. Π’ этом ΠΈ Π·Π°ΠΊΠ»ΡŽΡ‡Π°Π΅Ρ‚ΡΡ ΡΡƒΡ‚ΡŒ управлСния ΠΌΠ°ΡΡˆΡ‚Π°Π±Π½Ρ‹ΠΌΠΈ ΠΏΡ€ΠΎΠ΅ΠΊΡ‚Π°ΠΌΠΈ: ΠΏΠΎΠ½ΠΈΠΌΠ°Π½ΠΈΠ΅ Ρ‚ΠΎΠ³ΠΎ, ΠΊΠΎΠ³Π΄Π° Π½ΡƒΠΆΠ½ΠΎ Π²ΠΌΠ΅ΡˆΠ°Ρ‚ΡŒΡΡ, Π° ΠΊΠΎΠ³Π΄Π° ΠΏΠΎΠ·Π²ΠΎΠ»ΠΈΡ‚ΡŒ систСмС ΡΠ°ΠΌΠΎΠΈΡΡ†Π΅Π»ΠΈΡ‚ΡŒΡΡΒ». β€” Амин, Π“Π»Π°Π²Π½Ρ‹ΠΉ систСмный Π°Ρ€Ρ…ΠΈΡ‚Π΅ΠΊΡ‚ΠΎΡ€. βœ… Π‘Π΄Π΅Π»Π°ΠΉΡ‚Π΅ сСйчас: ΠŸΡ€ΠΎΠ²Π΅Π΄ΠΈΡ‚Π΅ Π°ΡƒΠ΄ΠΈΡ‚ систСмы ΠΌΠΎΠ½ΠΈΡ‚ΠΎΡ€ΠΈΠ½Π³Π° вашСго ΠΏΡ€ΠΎΠ΅ΠΊΡ‚Π°. ΠžΡ‚Π²Π΅Ρ‚ΡŒΡ‚Π΅ Π½Π° вопрос: Β«Π•ΡΡ‚ΡŒ Π»ΠΈ Ρƒ нас Ρ‡Π΅Ρ‚ΠΊΠΈΠΉ Ρ€Π΅Π³Π»Π°ΠΌΠ΅Π½Ρ‚ дСйствий ΠΏΡ€ΠΈ Π²ΠΎΠ·Π½ΠΈΠΊΠ½ΠΎΠ²Π΅Π½ΠΈΠΈ Π°Π½ΠΎΠΌΠ°Π»ΠΈΠΈ, ΠΈΠ»ΠΈ ΠΌΡ‹ ΠΊΠ°ΠΆΠ΄Ρ‹ΠΉ Ρ€Π°Π· ΠΏΡ€ΠΈΠ½ΠΈΠΌΠ°Π΅ΠΌ Ρ€Π΅ΡˆΠ΅Π½ΠΈΠ΅ Π² ΠΏΠ°Π½ΠΈΠΊΠ΅?Β». Π‘ΠΎΠ·Π΄Π°ΠΉΡ‚Π΅ Β«ΠΊΠ½ΠΈΠ³Ρƒ ΠΈΠ½Ρ†ΠΈΠ΄Π΅Π½Ρ‚ΠΎΠ²Β», Π³Π΄Π΅ зафиксируйтС Ρ‚ΠΈΠΏΠΎΠ²Ρ‹Π΅ Β«ΡˆΡƒΠΌΡ‹Β» (Π½Π°ΠΏΡ€ΠΈΠΌΠ΅Ρ€, Π²Ρ€Π΅ΠΌΠ΅Π½Π½Ρ‹Π΅ сСтСвыС Π·Π°Π΄Π΅Ρ€ΠΆΠΊΠΈ, ΠΌΠΈΠΊΡ€ΠΎ-ΠΎΡ‚ΠΊΠ°Π·Ρ‹ GPU) ΠΈ Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌ ΠΈΡ… игнорирования. Π­Ρ‚ΠΎ ΠΈΠ·Π±Π°Π²ΠΈΡ‚ ΠΊΠΎΠΌΠ°Π½Π΄Ρƒ ΠΎΡ‚ лишнСго стрСсса ΠΈ сэкономит сотни часов Ρ€Π°Π±ΠΎΡ‚Ρ‹. 6. ΠŸΡ€ΠΈΠ½Ρ†ΠΈΠΏ Β«Generalization over MemorizationΒ»: Π·Π°Ρ‰ΠΈΡ‚Π° цСлостности ΠΌΠ΅Ρ‚Ρ€ΠΈΠΊ Π’ ΠΌΠΈΡ€Π΅, Π³Π΄Π΅ ΠΈΠ½Ρ‚Π΅Ρ€Π½Π΅Ρ‚-Π΄Π°Π½Π½Ρ‹Π΅ становятся Ρ‚ΠΎΠ²Π°Ρ€ΠΎΠΌ, Ρ†Π΅Π½Π½ΠΎΡΡ‚ΡŒ ΠΌΠΎΠ΄Π΅Π»ΠΈ опрСдСляСтся Π½Π΅ Ρ‚Π΅ΠΌ, сколько тСкстов ΠΎΠ½Π° Β«ΠΏΡ€ΠΎΡ‡ΠΈΡ‚Π°Π»Π°Β», Π° Ρ‚Π΅ΠΌ, насколько Π³Π»ΡƒΠ±ΠΎΠΊΠΎ ΠΎΠ½Π° ΠΎΠ²Π»Π°Π΄Π΅Π»Π° искусством абстракции. Дэн Π² Π²ΠΈΠ΄Π΅ΠΎ ΠΏΡ€ΠΈΠ²ΠΎΠ΄ΠΈΡ‚ Ρ„ΡƒΠ½Π΄Π°ΠΌΠ΅Π½Ρ‚Π°Π»ΡŒΠ½Ρ‹ΠΉ Π°Ρ€Π³ΡƒΠΌΠ΅Π½Ρ‚: Ссли ΠΌΡ‹ Π±ΡƒΠ΄Π΅ΠΌ ΠΎΡ†Π΅Π½ΠΈΠ²Π°Ρ‚ΡŒ модСль Π½Π° тСстах, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ ΠΏΡ€ΠΈΡΡƒΡ‚ΡΡ‚Π²ΡƒΡŽΡ‚ Π² ΠΎΠ±ΡƒΡ‡Π°ΡŽΡ‰Π΅ΠΉ Π²Ρ‹Π±ΠΎΡ€ΠΊΠ΅, ΠΌΡ‹ ΠΏΠΎΠ»ΡƒΡ‡ΠΈΠΌ иллюзию прогрСсса. Π­Ρ‚ΠΎ Ρ‚ΠΎ, Ρ‡Ρ‚ΠΎ ΠΎΠ½ Π½Π°Π·Ρ‹Π²Π°Π΅Ρ‚ Β«Π΄Π΅Π³Π΅Π½Π΅Ρ€Π°Ρ‚ΠΈΠ²Π½Ρ‹ΠΌ Π·Π°ΠΏΠΎΠΌΠΈΠ½Π°Π½ΠΈΠ΅ΠΌΒ». Π§Ρ‚ΠΎΠ±Ρ‹ ΠΈΠ·Π±Π΅ΠΆΠ°Ρ‚ΡŒ этой Π»ΠΎΠ²ΡƒΡˆΠΊΠΈ, OpenAI ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠ΅Ρ‚ Π·Π°ΠΊΡ€Ρ‹Ρ‚Ρ‹Π΅ Ρ€Π΅ΠΏΠΎΠ·ΠΈΡ‚ΠΎΡ€ΠΈΠΈ ΠΈ спСцифичСскиС Π²Π½ΡƒΡ‚Ρ€Π΅Π½Π½ΠΈΠ΅ Π±Π΅Π½Ρ‡ΠΌΠ°Ρ€ΠΊΠΈ, ΠΊ ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΌ модСль Π½Π΅ ΠΈΠΌΠ΅Π»Π° доступа Π²ΠΎ врСмя обучСния. Π­Ρ‚ΠΎ СдинствСнный способ ΠΏΡ€ΠΎΠ²Π΅Ρ€ΠΈΡ‚ΡŒ, Π΄Π΅ΠΉΡΡ‚Π²ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎ Π»ΠΈ Π½Π΅ΠΉΡ€ΠΎΡΠ΅Ρ‚ΡŒ Β«ΠΏΠΎΠ½ΠΈΠΌΠ°Π΅Ρ‚Β» ΠΊΠΎΠ½Ρ†Π΅ΠΏΡ†ΠΈΠΈ ΠΈΠ»ΠΈ просто мастСрски Β«Ρ†ΠΈΡ‚ΠΈΡ€ΡƒΠ΅Ρ‚Β» куски ΠΊΠΎΠ΄Π° ΠΈ статСй ΠΈΠ· своСй памяти. Для систСмных Π°Ρ€Ρ…ΠΈΡ‚Π΅ΠΊΡ‚ΠΎΡ€ΠΎΠ² этот ΠΏΡ€ΠΈΠ½Ρ†ΠΈΠΏ ΠΎΠ·Π½Π°Ρ‡Π°Π΅Ρ‚ Π½Π΅ΠΎΠ±Ρ…ΠΎΠ΄ΠΈΠΌΠΎΡΡ‚ΡŒ проСктирования процСссов Π²Π°Π»ΠΈΠ΄Π°Ρ†ΠΈΠΈ, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ ΠΈΡΠΊΠ»ΡŽΡ‡Π°ΡŽΡ‚ Β«ΡƒΡ‚Π΅Ρ‡ΠΊΡƒ Π΄Π°Π½Π½Ρ‹Ρ…Β» (data leakage). ΠŸΡ€Π΅Π΄ΡΡ‚Π°Π²ΡŒΡ‚Π΅ ΡΠΈΡ‚ΡƒΠ°Ρ†ΠΈΡŽ: Π²Ρ‹ ΠΎΠΏΡ‚ΠΈΠΌΠΈΠ·ΠΈΡ€ΡƒΠ΅Ρ‚Π΅ модСль ΠΏΠΎΠ΄ ΠΌΠ΅Ρ‚Ρ€ΠΈΠΊΡƒ, которая оказываСтся «загрязнСнной». Π’Ρ‹ Ρ‚Ρ€Π°Ρ‚ΠΈΡ‚Π΅ ΠΌΠΈΠ»Π»ΠΈΠΎΠ½Ρ‹ Π΄ΠΎΠ»Π»Π°Ρ€ΠΎΠ² Π½Π° compute, Π΄ΠΎΠ±ΠΈΠ²Π°Π΅Ρ‚Π΅ΡΡŒ роста ΠΏΠΎΠΊΠ°Π·Π°Ρ‚Π΅Π»Π΅ΠΉ Π½Π° 15%, Π½ΠΎ Π² Ρ€Π΅Π°Π»ΡŒΠ½Ρ‹Ρ… условиях модСль дСмонстрируСт Π½ΡƒΠ»Π΅Π²ΠΎΠΉ прирост полСзности для ΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚Π΅Π»Ρ. Π­Ρ‚ΠΎ Ρ…ΡƒΠ΄ΡˆΠΈΠΉ ΠΊΠΎΡˆΠΌΠ°Ρ€ ML-ΠΈΠ½ΠΆΠ΅Π½Π΅Ρ€Π°. Команда OpenAI Π΄Π΅Π»Π°Π΅Ρ‚ ставку Π½Π° «чистоту» Π΄Π°Π½Π½Ρ‹Ρ…: ΠΎΠ½ΠΈ Π½Π΅ просто ΡΠΊΠ°Ρ‡ΠΈΠ²Π°ΡŽΡ‚ вСсь ΠΈΠ½Ρ‚Π΅Ρ€Π½Π΅Ρ‚, ΠΎΠ½ΠΈ Ρ„ΠΈΠ»ΡŒΡ‚Ρ€ΡƒΡŽΡ‚ ΠΈ ΠΎΡ‚Π±ΠΈΡ€Π°ΡŽΡ‚ Ρ‚Π΅ ΠΏΠ°Ρ‚Ρ‚Π΅Ρ€Π½Ρ‹, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ ΡΠΏΠΎΡΠΎΠ±ΡΡ‚Π²ΡƒΡŽΡ‚ Ρ€Π°Π·Π²ΠΈΡ‚ΠΈΡŽ логичСских связСй ΠΈ Π°Π½Π°Π»ΠΎΠ³ΠΈΠΉ, Π° Π½Π΅ простому накоплСнию Ρ„Π°ΠΊΡ‚ΠΎΠ². ΠžΠ±ΡƒΡ‡Π΅Π½ΠΈΠ΅ ΠΌΠΎΠ΄Π΅Π»ΠΈ β€” это Π½Π΅ ΠΏΡ€ΠΎ ΠΎΠ±ΡŠΡ‘ΠΌ, Π° ΠΏΡ€ΠΎ качСство сТатия ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΠΈ (compression). Π’Π°ΠΆΠ½Ρ‹ΠΉ Π²Ρ‹Π²ΠΎΠ΄ для бизнСса: Ссли Π²Ρ‹ Ρ…ΠΎΡ‚ΠΈΡ‚Π΅, Ρ‡Ρ‚ΠΎΠ±Ρ‹ модСль Ρ€Π°Π±ΠΎΡ‚Π°Π»Π° Π² условиях нСопрСдСлСнности, ΠΎΠ½Π° Π΄ΠΎΠ»ΠΆΠ½Π° ΡƒΡ‡ΠΈΡ‚ΡŒΡΡ Π½Π° «хвостах» распрСдСлСния (long tail). Π Π΅Π΄ΠΊΠΈΠ΅, слоТныС ΠΊΠΎΠ½Ρ†Π΅ΠΏΡ†ΠΈΠΈ Π² Π΄Π°Π½Π½Ρ‹Ρ… β€” это ΠΈ Π΅ΡΡ‚ΡŒ ΠΊΠ»ΡŽΡ‡ ΠΊ ΠΈΠ½Ρ‚Π΅Π»Π»Π΅ΠΊΡ‚Ρƒ. Если модСль постоянно Π²ΠΈΠ΄ΠΈΡ‚ ΠΎΠ΄Π½ΠΈ ΠΈ Ρ‚Π΅ ΠΆΠ΅ простыС ΠΏΡ€ΠΈΠΌΠ΅Ρ€Ρ‹, ΠΎΠ½Π° становится Β«Π»Π΅Π½ΠΈΠ²ΠΎΠΉΒ». Π’ Π±ΡƒΠ΄ΡƒΡ‰Π΅ΠΌ побСдят Ρ‚Π΅ ΠΊΠΎΠΌΠΏΠ°Π½ΠΈΠΈ, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ смогут ΡΠΎΠ·Π΄Π°Π²Π°Ρ‚ΡŒ «синтСтичСскиС» ΠΈΠ»ΠΈ «высококачСствСнныС» датасСты, способныС Π·Π°ΡΡ‚Π°Π²ΠΈΡ‚ΡŒ модСль Π΄ΡƒΠΌΠ°Ρ‚ΡŒ, Π° Π½Π΅ просто ΡƒΠ³Π°Π΄Ρ‹Π²Π°Ρ‚ΡŒ ΡΠ»Π΅Π΄ΡƒΡŽΡ‰ΠΈΠΉ Ρ‚ΠΎΠΊΠ΅Π½. Π­Ρ‚ΠΎ ΠΏΠ΅Ρ€Π΅Ρ…ΠΎΠ΄ ΠΎΡ‚ количСствСнного накоплСния Π·Π½Π°Π½ΠΈΠΉ ΠΊ качСствСнному Ρ€Π°Π·Π²ΠΈΡ‚ΠΈΡŽ ΠΌΡ‹ΡˆΠ»Π΅Π½ΠΈΡ систСмы. Валидация Π΄ΠΎΠ»ΠΆΠ½Π° Π±Ρ‹Ρ‚ΡŒ Β«ΠΏΠ°Ρ€Π°Π½ΠΎΠΈΠ΄Π°Π»ΡŒΠ½ΠΎΠΉΒ»: Ссли Ρ€Π΅Π·ΡƒΠ»ΡŒΡ‚Π°Ρ‚Ρ‹ тСста выглядят слишком Ρ…ΠΎΡ€ΠΎΡˆΠΎ, Π·Π½Π°Ρ‡ΠΈΡ‚, скорСС всСго, модСль ΡƒΠΆΠ΅ Π²ΠΈΠ΄Π΅Π»Π° эти Π΄Π°Π½Π½Ρ‹Π΅. > «МногиС ΠΏΡ‹Ρ‚Π°ΡŽΡ‚ΡΡ ΠΈΠ·ΠΌΠ΅Ρ€ΠΈΡ‚ΡŒ ΠΈΠ½Ρ‚Π΅Π»Π»Π΅ΠΊΡ‚ ΠΌΠΎΠ΄Π΅Π»ΠΈ Ρ‡Π΅Ρ€Π΅Π· стандартныС тСсты, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ Π΅ΡΡ‚ΡŒ Π² ΠΎΡ‚ΠΊΡ€Ρ‹Ρ‚ΠΎΠΌ доступС. Но Ссли Π΄Π°Π½Π½Ρ‹Π΅ Π΅ΡΡ‚ΡŒ Π² ΠΈΠ½Ρ‚Π΅Ρ€Π½Π΅Ρ‚Π΅, ΠΎΠ½ΠΈ ΡƒΠΆΠ΅ стали Ρ‡Π°ΡΡ‚ΡŒΡŽ ΠΎΠ±ΡƒΡ‡Π°ΡŽΡ‰Π΅ΠΉ Π²Ρ‹Π±ΠΎΡ€ΠΊΠΈ. РСальная ΠΏΡ€ΠΎΠ²Π΅Ρ€ΠΊΠ° ΠΌΠΎΠ΄Π΅Π»ΠΈ β€” это Ρ€Π°Π±ΠΎΡ‚Π° с Π·Π°ΠΊΡ€Ρ‹Ρ‚Ρ‹ΠΌΠΈ, Π²Π½ΡƒΡ‚Ρ€Π΅Π½Π½ΠΈΠΌΠΈ Π½Π°Π±ΠΎΡ€Π°ΠΌΠΈ Π΄Π°Π½Π½Ρ‹Ρ…, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ Ρ‚Ρ€Π΅Π±ΡƒΡŽΡ‚ ΠΎΡ‚ систСмы ΠΈΠΌΠ΅Π½Π½ΠΎ обобщСния (generalization), Π° Π½Π΅ простого воспроизвСдСния Π²Ρ‹ΡƒΡ‡Π΅Π½Π½ΠΎΠ³ΠΎ тСкста». β€” Дэн, экспСрт ΠΏΠΎ эффСктивности Π΄Π°Π½Π½Ρ‹Ρ…. βœ… Π‘Π΄Π΅Π»Π°ΠΉΡ‚Π΅ сСйчас: Π Π°Π·Ρ€Π°Π±ΠΎΡ‚Π°ΠΉΡ‚Π΅ Β«Π·ΠΎΠ»ΠΎΡ‚ΠΎΠΉ Π½Π°Π±ΠΎΡ€Β» тСстов (Golden Set) для вашСго ML-ΠΏΡ€ΠΎΠ΄ΡƒΠΊΡ‚Π°, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ Π³Π°Ρ€Π°Π½Ρ‚ΠΈΡ€ΠΎΠ²Π°Π½Π½ΠΎ Π½Π΅ Π²Ρ…ΠΎΠ΄ΠΈΡ‚ Π² ΠΎΠ±ΡƒΡ‡Π°ΡŽΡ‰ΡƒΡŽ Π²Ρ‹Π±ΠΎΡ€ΠΊΡƒ. Π’ΠΊΠ»ΡŽΡ‡ΠΈΡ‚Π΅ Ρ‚ΡƒΠ΄Π° Π·Π°Π΄Π°Ρ‡ΠΈ, Ρ‚Ρ€Π΅Π±ΡƒΡŽΡ‰ΠΈΠ΅ логичСского Π²Ρ‹Π²ΠΎΠ΄Π° (reasoning), Π° Π½Π΅ простого поиска ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΠΈ. ΠšΠ°ΠΆΠ΄Ρ‹ΠΉ Ρ€Π°Π·, ΠΊΠΎΠ³Π΄Π° Π²Ρ‹ вноситС измСнСния Π² Π°Ρ€Ρ…ΠΈΡ‚Π΅ΠΊΡ‚ΡƒΡ€Ρƒ ΠΈΠ»ΠΈ Π΄Π°Π½Π½Ρ‹Π΅, прогоняйтС модСль Ρ‡Π΅Ρ€Π΅Π· этот тСст. Если ΠΌΠ΅Ρ‚Ρ€ΠΈΠΊΠΈ Π½Π° Golden Set Π½Π΅ растут, Π·Π½Π°Ρ‡ΠΈΡ‚, ваши измСнСния лишь ΡƒΠ²Π΅Π»ΠΈΡ‡ΠΈΠ²Π°ΡŽΡ‚ ΡΠΏΠΎΡΠΎΠ±Π½ΠΎΡΡ‚ΡŒ ΠΌΠΎΠ΄Π΅Π»ΠΈ Β«Π·ΡƒΠ±Ρ€ΠΈΡ‚ΡŒΒ», Π° Π½Π΅ Β«ΠΏΠΎΠ½ΠΈΠΌΠ°Ρ‚ΡŒΒ». --- 7. Ко-Π΄ΠΈΠ·Π°ΠΉΠ½ ΠΊΠ°ΠΊ стратСгия выТивания: синСргия ML ΠΈ систСмной Π°Ρ€Ρ…ΠΈΡ‚Π΅ΠΊΡ‚ΡƒΡ€Ρ‹ Π’ соврСмСнной Ρ€Π°Π·Ρ€Π°Π±ΠΎΡ‚ΠΊΠ΅ ΠΌΠΎΠ΄Π΅Π»Π΅ΠΉ класса GPT-4.5 «стСны» ΠΌΠ΅ΠΆΠ΄Ρƒ ML-ΠΈΠ½ΠΆΠ΅Π½Π΅Ρ€Π°ΠΌΠΈ ΠΈ систСмными Π°Ρ€Ρ…ΠΈΡ‚Π΅ΠΊΡ‚ΠΎΡ€Π°ΠΌΠΈ ΠΏΡ€Π΅Π²Ρ€Π°Ρ‰Π°ΡŽΡ‚ΡΡ Π² ΡƒΠ·ΠΊΠΎΠ΅ Π³ΠΎΡ€Π»Ρ‹ΡˆΠΊΠΎ, ΠΊΠΎΡ‚ΠΎΡ€ΠΎΠ΅ ΡƒΠ±ΠΈΠ²Π°Π΅Ρ‚ ΠΏΡ€ΠΎΠ΅ΠΊΡ‚ Π΅Ρ‰Π΅ Π΄ΠΎ Π΅Π³ΠΎ запуска. Дэн, АлСкс ΠΈ Амин ΠΏΠΎΠ΄Ρ‡Π΅Ρ€ΠΊΠΈΠ²Π°ΡŽΡ‚: процСсс проСктирования гигантских нСйросСтСй β€” это Π½Π΅ ΠΏΠΎΡΠ»Π΅Π΄ΠΎΠ²Π°Ρ‚Π΅Π»ΡŒΠ½Π°Ρ ΠΏΠ΅Ρ€Π΅Π΄Π°Ρ‡Π° Π·Π°Π΄Π°Ρ‡ ΠΎΡ‚ «софта» ΠΊ Β«ΠΆΠ΅Π»Π΅Π·ΡƒΒ», Π° Π³Π»ΡƒΠ±ΠΎΠΊΠΎ ΠΈΠ½Ρ‚Π΅Π³Ρ€ΠΈΡ€ΠΎΠ²Π°Π½Π½Ρ‹ΠΉ процСсс со-проСктирования (co-design). На ΠΏΡ€Π°ΠΊΡ‚ΠΈΠΊΠ΅ это ΠΎΠ·Π½Π°Ρ‡Π°Π΅Ρ‚, Ρ‡Ρ‚ΠΎ Π²Ρ‹Π±ΠΎΡ€ Π°Ρ€Ρ…ΠΈΡ‚Π΅ΠΊΡ‚ΡƒΡ€Ρ‹ ΠΌΠΎΠ΄Π΅Π»ΠΈ, Ρ„ΠΎΡ€ΠΌΠ° Ρ‚Π΅Π½Π·ΠΎΡ€ΠΎΠ², ΠΌΠ΅Ρ‚ΠΎΠ΄Ρ‹ ΡˆΠ°Ρ€Π΄ΠΈΡ€ΠΎΠ²Π°Π½ΠΈΡ ΠΈ стратСгии ΠΊΡΡˆΠΈΡ€ΠΎΠ²Π°Π½ΠΈΡ Π΄ΠΎΠ»ΠΆΠ½Ρ‹ Π΄ΠΈΠΊΡ‚ΠΎΠ²Π°Ρ‚ΡŒΡΡ Π½Π΅ Ρ‚ΠΎΠ»ΡŒΠΊΠΎ тСорСтичСскими сообраТСниями ΠΎ сходимости Π³Ρ€Π°Π΄ΠΈΠ΅Π½Ρ‚Π°, Π½ΠΎ ΠΈ Ρ‚Π΅ΠΌ, ΠΊΠ°ΠΊ Π΄Π°Π½Π½Ρ‹Π΅ физичСски Β«Π±Π΅Π³Π°ΡŽΡ‚Β» ΠΏΠΎ оптичСским кабСлям ΠΌΠ΅ΠΆΠ΄Ρƒ 100 000 GPU. Π˜Π³Π½ΠΎΡ€ΠΈΡ€ΠΎΠ²Π°Π½ΠΈΠ΅ этого Ρ„Π°ΠΊΡ‚Π° Π²Π΅Π΄Π΅Ρ‚ ΠΊ Ρ‚ΠΎΠΌΡƒ, Ρ‡Ρ‚ΠΎ Π²Ρ‹ строитС свСрхмощный Π΄Π²ΠΈΠ³Π°Ρ‚Π΅Π»ΡŒ, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ Π½Π΅Π²ΠΎΠ·ΠΌΠΎΠΆΠ½ΠΎ ΡƒΡΡ‚Π°Π½ΠΎΠ²ΠΈΡ‚ΡŒ Π² шасси ΠΈΠ·-Π·Π° нСсовмСстимости ΠΊΡ€Π΅ΠΏΠ»Π΅Π½ΠΈΠΉ. Ко-Π΄ΠΈΠ·Π°ΠΉΠ½ Ρ‚Ρ€Π΅Π±ΡƒΠ΅Ρ‚ смСны ΠΌΡ‹ΡˆΠ»Π΅Π½ΠΈΡ: Π²Ρ‹ большС Π½Π΅ просто Β«ΠΏΠΈΡˆΠ΅Ρ‚Π΅ ΠΊΠΎΠ΄Β», Π²Ρ‹ «настраиваСтС Ρ„ΠΈΠ·ΠΈΡ‡Π΅ΡΠΊΡƒΡŽ срСду» для вычислСний. Когда OpenAI Π³ΠΎΡ‚ΠΎΠ²ΠΈΠ»Π°ΡΡŒ ΠΊ запуску, ΠΊΠΎΠΌΠ°Π½Π΄Π° ΠΏΠΎΡ‚Ρ€Π°Ρ‚ΠΈΠ»Π° мСсяцы Π½Π° Ρ‚ΠΎ, Ρ‡Ρ‚ΠΎΠ±Ρ‹ ΡΠΈΠ½Ρ…Ρ€ΠΎΠ½ΠΈΠ·ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ ΡƒΡ€ΠΎΠ²Π½ΠΈ абстракции β€” ΠΎΡ‚ высокоуровнСвых слоСв трансформСра Π΄ΠΎ Π½ΠΈΠ·ΠΊΠΎΡƒΡ€ΠΎΠ²Π½Π΅Π²Ρ‹Ρ… ядСр Triton. Ошибка Π² ΠΎΠ΄Π½ΠΎΠΉ ΠΈΠ· этих Ρ‚ΠΎΡ‡Π΅ΠΊ ΠΌΠΎΠΆΠ΅Ρ‚ привСсти ΠΊ ΠΏΠΎΡ‚Π΅Ρ€Π΅ 30-40% пропускной способности сСти ΠΈΠ·-Π·Π° простых Π·Π°Π΄Π΅Ρ€ΠΆΠ΅ΠΊ (latency). Амин ΠΎΡ‚ΠΌΠ΅Ρ‡Π°Π΅Ρ‚, Ρ‡Ρ‚ΠΎ идСальная систСма Π΄ΠΎΠ»ΠΆΠ½Π° Π±Ρ‹Ρ‚ΡŒ «симмСтричной ΠΈ сбалансированной», Π½ΠΎ Π² Ρ€Π΅Π°Π»ΡŒΠ½ΠΎΡΡ‚ΠΈ ΠΌΡ‹ всСгда ΠΈΠ΄Π΅ΠΌ Π½Π° компромисс. Π‘ΡƒΡ‚ΡŒ мастСрства систСмного Π°Ρ€Ρ…ΠΈΡ‚Π΅ΠΊΡ‚ΠΎΡ€Π° β€” Π² ΡƒΠΌΠ΅Π½ΠΈΠΈ ΠΏΡ€Π΅Π΄ΡΠΊΠ°Π·Π°Ρ‚ΡŒ, Π³Π΄Π΅ ΠΈΠΌΠ΅Π½Π½ΠΎ ΠΏΡ€ΠΎΠΈΠ·ΠΎΠΉΠ΄Π΅Ρ‚ пСрСкос Π½Π°Π³Ρ€ΡƒΠ·ΠΊΠΈ, ΠΈ Π·Π°Ρ€Π°Π½Π΅Π΅ ΠΏΠΎΠ΄Π³ΠΎΡ‚ΠΎΠ²ΠΈΡ‚ΡŒ Β«ΠΎΠ±Ρ…ΠΎΠ΄Π½Ρ‹Π΅ ΠΏΡƒΡ‚ΠΈΒ» (workarounds), ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ Π½Π΅ ΠΏΠΎΡ‚Ρ€Π΅Π±ΡƒΡŽΡ‚ пСрСписывания всСй ΠΊΠΎΠ΄ΠΎΠ²ΠΎΠΉ Π±Π°Π·Ρ‹ Π² процСссС обучСния. Π­Ρ‚ΠΎΡ‚ ΠΏΠΎΠ΄Ρ…ΠΎΠ΄ Ρ€Π°Π΄ΠΈΠΊΠ°Π»ΡŒΠ½ΠΎ мСняСт ΠΊΡƒΠ»ΡŒΡ‚ΡƒΡ€Ρƒ ΠΊΠΎΠΌΠ°Π½Π΄Ρ‹. Π˜Π½ΠΆΠ΅Π½Π΅Ρ€Ρ‹ ΠΏΠ΅Ρ€Π΅ΡΡ‚Π°ΡŽΡ‚ ΠΌΡ‹ΡΠ»ΠΈΡ‚ΡŒ Π³Ρ€Π°Π½ΠΈΡ†Π°ΠΌΠΈ своих Ρ€ΠΎΠ»Π΅ΠΉ («это сСтСвая ΠΏΡ€ΠΎΠ±Π»Π΅ΠΌΠ°Β», «это ΠΏΡ€ΠΎΠ±Π»Π΅ΠΌΠ° вСсов») ΠΈ Π½Π°Ρ‡ΠΈΠ½Π°ΡŽΡ‚ ΡΠΌΠΎΡ‚Ρ€Π΅Ρ‚ΡŒ Π½Π° систСму ΠΊΠ°ΠΊ Π½Π° Π΅Π΄ΠΈΠ½Ρ‹ΠΉ ΠΆΠΈΠ²ΠΎΠΉ ΠΎΡ€Π³Π°Π½ΠΈΠ·ΠΌ. Если модСль Ρ€Π°Π±ΠΎΡ‚Π°Π΅Ρ‚ ΠΌΠ΅Π΄Π»Π΅Π½Π½Π΅Π΅, Ρ‡Π΅ΠΌ оТидалось, ML-ΠΈΠ½ΠΆΠ΅Π½Π΅Ρ€ Π½Π΅ просто Β«ΡƒΠΆΠΈΠΌΠ°Π΅Ρ‚Β» Π±Π°Ρ‚Ρ‡, ΠΎΠ½ вмСстС с систСмным Π°Ρ€Ρ…ΠΈΡ‚Π΅ΠΊΡ‚ΠΎΡ€ΠΎΠΌ ΠΈΠ·ΡƒΡ‡Π°Π΅Ρ‚ трассировку памяти. Π­Ρ‚ΠΎ Ρ‚Ρ€Π΅Π±ΡƒΠ΅Ρ‚ ΠΎΡ‚ спСциалистов Π½Π°Π²Ρ‹ΠΊΠΎΠ² «систСмного администрирования уровня ядра» (kernel-level proficiency). Π’Ρ‹ Π΄ΠΎΠ»ΠΆΠ½Ρ‹ ΠΏΠΎΠ½ΠΈΠΌΠ°Ρ‚ΡŒ, ΠΊΠ°ΠΊ Ρ€Π°ΡΠΏΡ€Π΅Π΄Π΅Π»ΡΡŽΡ‚ΡΡ прСрывания, ΠΊΠ°ΠΊ Ρ€Π°Π±ΠΎΡ‚Π°Π΅Ρ‚ ΠΏΠ»Π°Π½ΠΈΡ€ΠΎΠ²Ρ‰ΠΈΠΊ Π·Π°Π΄Π°Ρ‡ Π² ОБ ΠΈ ΠΊΠ°ΠΊ ΠΈΠΌΠ΅Π½Π½ΠΎ Π΄Π°Π½Π½Ρ‹Π΅ ΠΈΠ·Π²Π»Π΅ΠΊΠ°ΡŽΡ‚ΡΡ ΠΈΠ· памяти GPU. Π­Ρ‚ΠΎ ΠΏΡƒΡ‚ΡŒ ΠΎΡ‚ «программирования ΠΌΠΎΠ΄Π΅Π»Π΅ΠΉΒ» ΠΊ Β«ΠΏΡ€ΠΎΠ³Ρ€Π°ΠΌΠΌΠΈΡ€ΠΎΠ²Π°Π½ΠΈΡŽ инфраструктуры обучСния». Волько такая синСргия позволяСт Π΄Π΅Π»Π°Ρ‚ΡŒ скачки Π½Π° порядок (10Ρ…) Π² ΠΌΠ°ΡΡˆΡ‚Π°Π±Π°Ρ… обучСния, Π½Π΅ Π·Π°Ρ…Π»Π΅Π±Ρ‹Π²Π°ΡΡΡŒ Π² хаосС собствСнных тСхничСских Π΄ΠΎΠ»Π³ΠΎΠ². > «Ко-Π΄ΠΈΠ·Π°ΠΉΠ½ β€” это ΠΊΠΎΠ³Π΄Π° Π°Ρ€Ρ…ΠΈΡ‚Π΅ΠΊΡ‚ΡƒΡ€Π° ΠΌΠΎΠ΄Π΅Π»ΠΈ ΠΈ Π°Ρ€Ρ…ΠΈΡ‚Π΅ΠΊΡ‚ΡƒΡ€Π° систСмы Π½Π΅ просто ΡΠΎΡΡƒΡ‰Π΅ΡΡ‚Π²ΡƒΡŽΡ‚, Π° Π΄ΠΈΠΊΡ‚ΡƒΡŽΡ‚ Π΄Ρ€ΡƒΠ³ Π΄Ρ€ΡƒΠ³Ρƒ свои условия. ΠœΡ‹ Π½Π΅ ΠΌΠΎΠΆΠ΅ΠΌ ΠΎΠΏΡ‚ΠΈΠΌΠΈΠ·ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ Ρ‚ΠΎΠ»ΡŒΠΊΠΎ ML ΠΈΠ»ΠΈ Ρ‚ΠΎΠ»ΡŒΠΊΠΎ ΠΆΠ΅Π»Π΅Π·ΠΎ; ΠΌΡ‹ Π΄ΠΎΠ»ΠΆΠ½Ρ‹ ΡΠΎΠ·Π΄Π°Π²Π°Ρ‚ΡŒ систСму, Π³Π΄Π΅ ΠΊΠ°ΠΆΠ΄ΠΎΠ΅ ΠΈΠ·ΠΌΠ΅Π½Π΅Π½ΠΈΠ΅ Π² Ρ„ΠΎΡ€ΠΌΡƒΠ»Π΅ Ρ„ΡƒΠ½ΠΊΡ†ΠΈΠΈ ΠΏΠΎΡ‚Π΅Ρ€ΡŒ ΠΌΠ³Π½ΠΎΠ²Π΅Π½Π½ΠΎ ΡƒΡ‡ΠΈΡ‚Ρ‹Π²Π°Π΅Ρ‚ ограничСния пропускной способности сСти». β€” АлСкс, Lead ML Engineer. βœ… Π‘Π΄Π΅Π»Π°ΠΉΡ‚Π΅ сСйчас: ΠŸΡ€ΠΎΠ²Π΅Π΄ΠΈΡ‚Π΅ «кросс-Ρ„ΡƒΠ½ΠΊΡ†ΠΈΠΎΠ½Π°Π»ΡŒΠ½Ρ‹ΠΉ ΡˆΡ‚ΡƒΡ€ΠΌΒ» вашСго ΠΏΡ€ΠΎΠ΅ΠΊΡ‚Π°. Π‘ΠΎΠ±Π΅Ρ€ΠΈΡ‚Π΅ ML-ΠΊΠΎΠΌΠ°Π½Π΄Ρƒ ΠΈ DevOps/Infrastructure ΠΈΠ½ΠΆΠ΅Π½Π΅Ρ€ΠΎΠ² Π² ΠΎΠ΄Π½ΠΎΠΉ ΠΊΠΎΠΌΠ½Π°Ρ‚Π΅. ΠŸΡƒΡΡ‚ΡŒ ΠΊΠ°ΠΆΠ΄Ρ‹ΠΉ ΠΎΠΏΠΈΡˆΠ΅Ρ‚ ΠΎΠ΄Π½Ρƒ Π²Π΅Ρ‰ΡŒ, ΠΊΠΎΡ‚ΠΎΡ€ΡƒΡŽ ΠΎΠ½ Β«Π½Π΅Π½Π°Π²ΠΈΠ΄ΠΈΡ‚Β» Π² Ρ€Π°Π±ΠΎΡ‚Π΅ ΠΊΠΎΠ»Π»Π΅Π³ (Π½Π°ΠΏΡ€ΠΈΠΌΠ΅Ρ€, Β«ΠΎΠ½ΠΈ ΡˆΠ»ΡŽΡ‚ слишком ΠΌΠ½ΠΎΠ³ΠΎ ΠΌΠ΅Π»ΠΊΠΈΡ… запросов» ΠΈΠ»ΠΈ Β«ΠΎΠ½ΠΈ постоянно ΠΌΠ΅Π½ΡΡŽΡ‚ ΠΊΠΎΠ½Ρ„ΠΈΠ³ΡƒΡ€Π°Ρ†ΠΈΡŽ кластСра»). На основС этого ΡΠΎΡΡ‚Π°Π²ΡŒΡ‚Π΅ Π΄ΠΎΠΊΡƒΠΌΠ΅Π½Ρ‚ Β«ΠŸΡ€ΠΎΡ‚ΠΎΠΊΠΎΠ» взаимодСйствия», ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ Ρ„ΠΎΡ€ΠΌΠ°Π»ΠΈΠ·ΡƒΠ΅Ρ‚ ограничСния для ΠΎΠ±Π΅ΠΈΡ… сторон: ML-ΠΊΠΎΠΌΠ°Π½Π΄Π° ΠΏΠΎΠ»ΡƒΡ‡Π°Π΅Ρ‚ Π±ΡŽΠ΄ΠΆΠ΅Ρ‚ Π½Π° рСсурсы, Π° систСмная ΠΊΠΎΠΌΠ°Π½Π΄Π° ΠΏΠΎΠ»ΡƒΡ‡Π°Π΅Ρ‚ прСдсказуСмый ΠΏΡ€ΠΎΡ„ΠΈΠ»ΡŒ Π½Π°Π³Ρ€ΡƒΠ·ΠΊΠΈ. 8. Π­ΠΊΠΎΠ½ΠΎΠΌΠΈΠΊΠ° Π΄Π°Π½Π½Ρ‹Ρ…: искусство сТатия ΠΊΠ°ΠΊ ΠΏΡƒΡ‚ΡŒ ΠΊ ΠΈΠ½Ρ‚Π΅Π»Π»Π΅ΠΊΡ‚Ρƒ Π’ эпоху, ΠΊΠΎΠ³Π΄Π° Β«ΡΠΎΠ±Ρ€Π°Ρ‚ΡŒ вСсь ΠΈΠ½Ρ‚Π΅Ρ€Π½Π΅Ρ‚Β» большС Π½Π΅ Π΄Π°Π΅Ρ‚ ΠΊΠΎΠ½ΠΊΡƒΡ€Π΅Π½Ρ‚Π½ΠΎΠ³ΠΎ прСимущСства, фокус смСщаСтся Π½Π° Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌΠΈΡ‡Π΅ΡΠΊΡƒΡŽ ΡΡ„Ρ„Π΅ΠΊΡ‚ΠΈΠ²Π½ΠΎΡΡ‚ΡŒ. Дэн ΠΈΠ· OpenAI ΡƒΡ‚Π²Π΅Ρ€ΠΆΠ΄Π°Π΅Ρ‚, Ρ‡Ρ‚ΠΎ ΠΌΡ‹ ΠΏΠ΅Ρ€Π΅Ρ…ΠΎΠ΄ΠΈΠΌ ΠΈΠ· эпохи Β«compute-constrainedΒ» (ΠΎΠ³Ρ€Π°Π½ΠΈΡ‡Π΅Π½Π½ΠΎΡΡ‚ΡŒ мощностями) Π² эпоху Β«data-constrainedΒ» (ΠΎΠ³Ρ€Π°Π½ΠΈΡ‡Π΅Π½Π½ΠΎΡΡ‚ΡŒ качСством Π΄Π°Π½Π½Ρ‹Ρ…). Если Ρ€Π°Π½ΡŒΡˆΠ΅ успСх измСрялся объСмом тСрафлопс, Ρ‚ΠΎ сСгодня ΠΎΠ½ измСряСтся ΡΠΏΠΎΡΠΎΠ±Π½ΠΎΡΡ‚ΡŒΡŽ ΠΌΠΎΠ΄Π΅Π»ΠΈ ΡΠΆΠΈΠΌΠ°Ρ‚ΡŒ ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΡŽ. Π§Π΅ΠΌ Π²Ρ‹ΡˆΠ΅ коэффициСнт сТатия ΠΏΡ€ΠΈ ΠΎΠ±ΡƒΡ‡Π΅Π½ΠΈΠΈ, Ρ‚Π΅ΠΌ ΡƒΠΌΠ½Π΅Π΅ модСль. Π­Ρ‚ΠΎ прямоС слСдствиС ΠΏΡ€ΠΈΠ½Ρ†ΠΈΠΏΠ° Π‘ΠΎΠ»ΠΎΠΌΠΎΠ½ΠΎΠ²ΠΎΠΉ ΠΈΠ½Π΄ΡƒΠΊΡ†ΠΈΠΈ: ΠΈΠ½Ρ‚Π΅Π»Π»Π΅ΠΊΡ‚ β€” это поиск ΠΏΡ€ΠΎΡΡ‚Π΅ΠΉΡˆΠ΅Π³ΠΎ Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌΠ° (ΠΏΡ€ΠΎΠ³Ρ€Π°ΠΌΠΌΡ‹), ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ ΠΎΠ±ΡŠΡΡΠ½ΡΠ΅Ρ‚ Π½Π°Π±Π»ΡŽΠ΄Π°Π΅ΠΌΡ‹Π΅ Π΄Π°Π½Π½Ρ‹Π΅. ΠΠ΅ΠΉΡ€ΠΎΡΠ΅Ρ‚ΡŒ, которая Β«ΠΏΠΎΠ½ΠΈΠΌΠ°Π΅Ρ‚Β» ΠΊΠΎΠ½Ρ†Π΅ΠΏΡ†ΠΈΡŽ, сТимаСт Π΅Ρ‘ Π² вСса Π³ΠΎΡ€Π°Π·Π΄ΠΎ эффСктивнСС, Ρ‡Π΅ΠΌ Ρ‚Π°, которая просто Β«Π·Π°ΠΏΠΎΠΌΠΈΠ½Π°Π΅Ρ‚Β» (memorization) ΠΏΡ€ΠΈΠΌΠ΅Ρ€Ρ‹. ΠŸΡ€ΠΎΠ±Π»Π΅ΠΌΠ° Β«Π΄Π΅Π³Π΅Π½Π΅Ρ€Π°Ρ‚ΠΈΠ²Π½ΠΎΠ³ΠΎ запоминания» β€” это Π³Π»Π°Π²Π½Ρ‹ΠΉ Π²Ρ€Π°Π³ развития. Если Π²Ρ‹ Ρ‚Ρ€Π΅Π½ΠΈΡ€ΡƒΠ΅Ρ‚Π΅ модСль Π½Π° Π΄Π°Π½Π½Ρ‹Ρ…, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ ΠΏΠ΅Ρ€Π΅ΡΠ΅ΠΊΠ°ΡŽΡ‚ΡΡ с вашими ΠΆΠ΅ тСстами, Π²Ρ‹ ΠΏΠΎΠ»ΡƒΡ‡Π°Π΅Ρ‚Π΅ «искусствСнно ΠΏΠΎΡƒΠΌΠ½Π΅Π²ΡˆΡƒΡŽΒ» систСму. Она Π½Π΅ рассуТдаСт, ΠΎΠ½Π° Β«Ρ†ΠΈΡ‚ΠΈΡ€ΡƒΠ΅Ρ‚Β». Для бизнСса это катастрофа: модСль выглядит Π²ΠΏΠ΅Ρ‡Π°Ρ‚Π»ΡΡŽΡ‰Π΅ Π½Π° Π΄Π΅ΠΌΠΎ, Π½ΠΎ Π² Ρ€Π΅Π°Π»ΡŒΠ½Ρ‹Ρ… условиях, Π³Π΄Π΅ Π²ΠΎΠ·Π½ΠΈΠΊΠ°ΡŽΡ‚ Π½ΠΎΠ²Ρ‹Π΅, Π½Π΅ Π²ΡΡ‚Ρ€Π΅Ρ‡Π°Π²ΡˆΠΈΠ΅ΡΡ Ρ€Π°Π½Π΅Π΅ Π·Π°Π΄Π°Ρ‡ΠΈ, ΠΎΠ½Π° тСряСтся. ΠŸΠΎΡΡ‚ΠΎΠΌΡƒ использованиС Β«Π·Π°ΠΊΡ€Ρ‹Ρ‚Ρ‹Ρ… Ρ€Π΅ΠΏΠΎΠ·ΠΈΡ‚ΠΎΡ€ΠΈΠ΅Π²Β» β€” это Π½Π΅ просто паранойя, это Ρ‚Ρ€Π΅Π±ΠΎΠ²Π°Π½ΠΈΠ΅ Π½Π°ΡƒΡ‡Π½ΠΎΠΉ строгости. Π’Ρ‹ Π΄ΠΎΠ»ΠΆΠ½Ρ‹ ΠΎΡ†Π΅Π½ΠΈΠ²Π°Ρ‚ΡŒ модСль Π½Π΅ ΠΏΠΎ Ρ‚ΠΎΠΌΡƒ, ΠΊΠ°ΠΊ Ρ…ΠΎΡ€ΠΎΡˆΠΎ ΠΎΠ½Π° ΠΎΡ‚Π²Π΅Ρ‡Π°Π΅Ρ‚ Π½Π° вопросы ΠΈΠ· FAQ, Π° ΠΏΠΎ Ρ‚ΠΎΠΌΡƒ, ΠΊΠ°ΠΊ ΠΎΠ½Π° Ρ€Π΅ΡˆΠ°Π΅Ρ‚ Π½ΠΎΠ²Ρ‹Π΅, слоТныС, синтСтичСскиС Π·Π°Π΄Π°Ρ‡ΠΈ, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ ΠΎΠ½Π° физичСски Π½Π΅ ΠΌΠΎΠ³Π»Π° Π²ΠΈΠ΄Π΅Ρ‚ΡŒ Π²ΠΎ врСмя обучСния. Π‘ΡƒΠ΄ΡƒΡ‰Π΅Π΅ Π·Π° Ρ‚Π΅ΠΌΠΈ, ΠΊΡ‚ΠΎ научится ΠΈΠ·Π²Π»Π΅ΠΊΠ°Ρ‚ΡŒ «хвост» распрСдСлСния (long tail). Π Π΅Π΄ΠΊΠΈΠ΅, слоТныС, Π³Π»ΡƒΠ±ΠΎΠΊΠΎ логичСскиС ΠΏΠ°Ρ‚Ρ‚Π΅Ρ€Π½Ρ‹ β€” это «золотая ΠΆΠΈΠ»Π°Β» для развития ΠΈΠ½Ρ‚Π΅Π»Π»Π΅ΠΊΡ‚Π°. ΠœΠ°ΡΡΠΎΠ²Ρ‹ΠΉ ΠΊΠΎΠ½Ρ‚Π΅Π½Ρ‚ ΠΈΠ· ΠΈΠ½Ρ‚Π΅Ρ€Π½Π΅Ρ‚Π° β€” это ΡˆΡƒΠΌ, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ ΠΏΠΎΠΌΠΎΠ³Π°Π΅Ρ‚ ΠΌΠΎΠ΄Π΅Π»ΠΈ Β«Π²Ρ‹ΡƒΡ‡ΠΈΡ‚ΡŒ язык», Π½ΠΎ Π½Π΅ ΠΏΠΎΠΌΠΎΠ³Π°Π΅Ρ‚ Π΅ΠΉ Β«Π½Π°ΡƒΡ‡ΠΈΡ‚ΡŒΡΡ ΠΌΡ‹ΡΠ»ΠΈΡ‚ΡŒΒ». ΠžΠΏΡ‚ΠΈΠΌΠΈΠ·Π°Ρ†ΠΈΡ ΠΏΠΎΠ΄ Β«ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΠΎΠ½Π½ΡƒΡŽ ΠΏΠ»ΠΎΡ‚Π½ΠΎΡΡ‚ΡŒΒ» Π΄Π°Π½Π½Ρ‹Ρ… Ρ‚Ρ€Π΅Π±ΡƒΠ΅Ρ‚ ΠΎΡ‚ нас создания систСм, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ Π½Π΅ просто Ρ‡ΠΈΡ‚Π°ΡŽΡ‚, Π° Ρ„ΠΈΠ»ΡŒΡ‚Ρ€ΡƒΡŽΡ‚ ΠΈ ΠΊΠ»Π°ΡΡΠΈΡ„ΠΈΡ†ΠΈΡ€ΡƒΡŽΡ‚ знания. Π­Ρ‚ΠΎ ΠΏΠ΅Ρ€Π΅Ρ…ΠΎΠ΄ ΠΎΡ‚ экстСнсивного накоплСния ΠΊ интСнсивному Ρ€Π°Π·Π²ΠΈΡ‚ΠΈΡŽ нСйросСтСй. ПониманиС Ρ‚ΠΎΠ³ΠΎ, Ρ‡Ρ‚ΠΎ Π΄Π°Π½Π½Ρ‹Π΅ β€” это Π½Π΅ просто объСм, Π° инструмСнт для сТатия Π·Π½Π°Π½ΠΈΠΉ, позволяСт Π½Π°ΠΌ ΡΡ‚Ρ€ΠΎΠΈΡ‚ΡŒ ΠΌΠΎΠ΄Π΅Π»ΠΈ, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ Ρ‚Ρ€Π΅Π±ΡƒΡŽΡ‚ мСньшС compute для достиТСния Ρ‚Π΅Ρ… ΠΆΠ΅ (ΠΈΠ»ΠΈ Π»ΡƒΡ‡ΡˆΠΈΡ…) Ρ€Π΅Π·ΡƒΠ»ΡŒΡ‚Π°Ρ‚ΠΎΠ². ΠœΡ‹ Π΄ΠΎΠ»ΠΆΠ½Ρ‹ ΠΏΠ΅Ρ€Π΅ΡΡ‚Π°Ρ‚ΡŒ Β«ΡΠΊΠ°Ρ€ΠΌΠ»ΠΈΠ²Π°Ρ‚ΡŒΒ» модСлям всё подряд ΠΈ Π½Π°Ρ‡Π°Ρ‚ΡŒ Β«Π΄ΠΈΡ€ΠΈΠΆΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒΒ» ΠΈΡ… ΠΎΠ±ΡƒΡ‡Π΅Π½ΠΈΠ΅ΠΌ Ρ‡Π΅Ρ€Π΅Π· качСствСнныС датасСты. > Β«Π˜Π½Ρ‚Π΅Π»Π»Π΅ΠΊΡ‚ ΠΌΠΎΠ΄Π΅Π»ΠΈ опрСдСляСтся качСством Π΅Ρ‘ сТатия. Если модСль просто Π·Π°ΠΏΠΎΠΌΠΈΠ½Π°Π΅Ρ‚ Π΄Π°Π½Π½Ρ‹Π΅, ΠΎΠ½Π° Π½Π΅ прогрСссируСт. Настоящий ΠΈΠ½Ρ‚Π΅Π»Π»Π΅ΠΊΡ‚ роТдаСтся Π² ΠΌΠΎΠΌΠ΅Π½Ρ‚, ΠΊΠΎΠ³Π΄Π° модСль Π½Π°Ρ…ΠΎΠ΄ΠΈΡ‚ Π°Π½Π°Π»ΠΎΠ³ΠΈΠΈ ΠΈ абстракции, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ ΠΏΠΎΠ·Π²ΠΎΠ»ΡΡŽΡ‚ ΠΎΠΏΠΈΡΡ‹Π²Π°Ρ‚ΡŒ ΠΎΠ³Ρ€ΠΎΠΌΠ½Ρ‹Π΅ массивы ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΠΈ Ρ‡Π΅Ρ€Π΅Π· ΠΏΡ€Π΅Π΄Π΅Π»ΡŒΠ½ΠΎ сТатыС логичСскиС структуры». β€” Дэн, спСциалист ΠΏΠΎ эффСктивности Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌΠΎΠ². βœ… Π‘Π΄Π΅Π»Π°ΠΉΡ‚Π΅ сСйчас: ΠŸΡ€ΠΎΠ²Π΅Π΄ΠΈΡ‚Π΅ Π°ΡƒΠ΄ΠΈΡ‚ вашСго Ρ‚Π΅ΠΊΡƒΡ‰Π΅Π³ΠΎ датасСта. НайдитС 10% «самых слоТных» ΠΏΡ€ΠΈΠΌΠ΅Ρ€ΠΎΠ², Π³Π΄Π΅ модСль Ρ‡Π°Ρ‰Π΅ всСго ΠΎΡˆΠΈΠ±Π°Π΅Ρ‚ΡΡ, ΠΈ классифицируйтС ΠΈΡ…: это Π½Π΅Ρ…Π²Π°Ρ‚ΠΊΠ° Π΄Π°Π½Π½Ρ‹Ρ… ΠΈΠ»ΠΈ Π½Π΅Ρ…Π²Π°Ρ‚ΠΊΠ° «рассуТдСния» (reasoning)? Π‘ΠΎΠ·Π΄Π°ΠΉΡ‚Π΅ ΠΌΠΈΠ½ΠΈ-датасСт ΠΈΠ· 100 Β«Π·ΠΎΠ»ΠΎΡ‚Ρ‹Ρ…Β» ΠΏΡ€ΠΈΠΌΠ΅Ρ€ΠΎΠ², ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ Ρ‚Ρ€Π΅Π±ΡƒΡŽΡ‚ Π³Π»ΡƒΠ±ΠΎΠΊΠΎΠΉ Π»ΠΎΠ³ΠΈΠΊΠΈ, ΠΈ ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠΉΡ‚Π΅ ΠΈΡ… ΠΊΠ°ΠΊ Β«Π»Π°ΠΊΠΌΡƒΡΠΎΠ²ΡƒΡŽ Π±ΡƒΠΌΠ°ΠΆΠΊΡƒΒ» для любой Π½ΠΎΠ²ΠΎΠΉ вСрсии вашСй ΠΌΠΎΠ΄Π΅Π»ΠΈ. Если модСль Π½Π΅ справляСтся с этим тСстом, Π½Π΅ выпускайтС ΠΎΠ±Π½ΠΎΠ²Π»Π΅Π½ΠΈΠ΅, Π΄Π°ΠΆΠ΅ Ссли общая Ρ‚ΠΎΡ‡Π½ΠΎΡΡ‚ΡŒ растСт. πŸ‹οΈ ΠŸΡ€Π°ΠΊΡ‚ΠΈΠΊΡƒΠΌ 1. Анализ ΠΈΠ½Ρ†ΠΈΠ΄Π΅Π½Ρ‚Π°: ΠžΠΏΠΈΡˆΠΈΡ‚Π΅ послСдний сбой Π² вашСм ΠΏΡ€ΠΎΠ΄ΡƒΠΊΡ‚Π΅. Π Π°Π·Π΄Π΅Π»ΠΈΡ‚Π΅ ΠΏΡ€ΠΈΡ‡ΠΈΠ½Ρ‹ Π½Π° Β«Π°ΠΏΠΏΠ°Ρ€Π°Ρ‚Π½Ρ‹ΠΉ ΡˆΡƒΠΌΒ» ΠΈ Β«Π°Ρ€Ρ…ΠΈΡ‚Π΅ΠΊΡ‚ΡƒΡ€Π½Ρ‹ΠΉ Π±Π°Π³Β». ΠžΠ±ΠΎΡΠ½ΡƒΠΉΡ‚Π΅, ΠΏΠΎΡ‡Π΅ΠΌΡƒ это нСльзя Π±Ρ‹Π»ΠΎ ΠΏΡ€Π΅Π΄ΠΎΡ‚Π²Ρ€Π°Ρ‚ΠΈΡ‚ΡŒ. 2. Π”ΠΈΠ·Π°ΠΉΠ½ Π±Π΅Π½Ρ‡ΠΌΠ°Ρ€ΠΊΠ°: Π‘ΠΎΠ·Π΄Π°ΠΉΡ‚Π΅ структуру Β«Golden SetΒ» для вашСй Π·Π°Π΄Π°Ρ‡ΠΈ. КакиС 5 Ρ‚ΠΈΠΏΠΎΠ² Β«Π½Π΅Π²ΠΈΠ΄ΠΈΠΌΡ‹Ρ…Β» для ΠΌΠΎΠ΄Π΅Π»ΠΈ Π·Π°Π΄Π°Ρ‡ ΠΏΠΎΠΌΠΎΠ³ΡƒΡ‚ ΠΏΡ€ΠΎΠ²Π΅Ρ€ΠΈΡ‚ΡŒ ΡƒΡ€ΠΎΠ²Π΅Π½ΡŒ Π΅Ρ‘ ΠΈΠ½Ρ‚Π΅Π»Π»Π΅ΠΊΡ‚Π°? 3. ΠšΠ°Ρ€Ρ‚Π° Β«ΡƒΠ·ΠΊΠΈΡ… мСст»: НарисуйтС Π°Ρ€Ρ…ΠΈΡ‚Π΅ΠΊΡ‚ΡƒΡ€Π½ΡƒΡŽ схСму вашСго обучСния ΠΈ ΠΎΡ‚ΠΌΠ΅Ρ‚ΡŒΡ‚Π΅ Ρ‚ΠΎΡ‡ΠΊΠΈ, Π³Π΄Π΅ Ρ‡Π°Ρ‰Π΅ всСго происходят сСтСвыС Π·Π°Π΄Π΅Ρ€ΠΆΠΊΠΈ. ΠŸΡ€Π΅Π΄Π»ΠΎΠΆΠΈΡ‚Π΅ 2 способа ΠΈΡ… ΠΌΠΈΠ½ΠΈΠΌΠΈΠ·Π°Ρ†ΠΈΠΈ Ρ‡Π΅Ρ€Π΅Π· ΠΈΠ·ΠΌΠ΅Π½Π΅Π½ΠΈΠ΅ ΠΊΠΎΠ½Ρ„ΠΈΠ³ΡƒΡ€Π°Ρ†ΠΈΠΈ. 4. ΠžΡ†Π΅Π½ΠΊΠ° compression: Как Π²Ρ‹ Π±ΡƒΠ΄Π΅Ρ‚Π΅ ΠΈΠ·ΠΌΠ΅Ρ€ΡΡ‚ΡŒ «качСство сТатия» Π·Π½Π°Π½ΠΈΠΉ Π² вашСй ΠΌΠΎΠ΄Π΅Π»ΠΈ? ΠŸΡ€Π΅Π΄Π»ΠΎΠΆΠΈΡ‚Π΅ ΠΌΠ΅Ρ‚Ρ€ΠΈΠΊΡƒ (ΠΎΡ‚Π»ΠΈΡ‡Π½ΡƒΡŽ ΠΎΡ‚ стандартного accuracy), которая ΠΎΡ‚Ρ€Π°ΠΆΠ°Π΅Ρ‚ Π³Π»ΡƒΠ±ΠΈΠ½Ρƒ понимания связСй. 5. ΠšΡƒΠ»ΡŒΡ‚ΡƒΡ€Π½Ρ‹ΠΉ Π°ΡƒΠ΄ΠΈΡ‚: ΠΠ°ΠΏΠΈΡˆΠΈΡ‚Π΅ список ΠΈΠ· 3 ΠΏΡ€Π°Π²ΠΈΠ», ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ ΠΏΠΎΠΌΠΎΠ³ΡƒΡ‚ вашСй ΠΊΠΎΠΌΠ°Π½Π΄Π΅ ΠΏΠ΅Ρ€Π΅ΡΡ‚Π°Ρ‚ΡŒ ΠΏΠ°Π½ΠΈΠΊΠΎΠ²Π°Ρ‚ΡŒ ΠΏΡ€ΠΈ сбоях ΠΈ Π½Π°Ρ‡Π°Ρ‚ΡŒ Β«Ρ‡ΠΈΡ‚Π°Ρ‚ΡŒ Π»ΠΎΠ³ΠΈΒ» ΠΊΠ°ΠΊ исслСдоватСли. πŸ”‘ Π˜Ρ‚ΠΎΠ³ΠΈ: 5 дСйствий Π½Π° сСгодня 1. Π’Π½Π΅Π΄Ρ€ΠΈΡ‚ΡŒ Β«ΠΊΠ½ΠΈΠ³Ρƒ ΠΈΠ½Ρ†ΠΈΠ΄Π΅Π½Ρ‚ΠΎΠ²Β» для фиксации Π°Π½ΠΎΠΌΠ°Π»ΠΈΠΉ ΠΈ ΠΈΡ… классификации. 2. ΠžΡ‚Π΄Π΅Π»ΠΈΡ‚ΡŒ Β«ΠΎΡ‚ΠΊΡ€Ρ‹Ρ‚Ρ‹Π΅Β» тСсты ΠΎΡ‚ Β«Π·Π°ΠΊΡ€Ρ‹Ρ‚ΠΎΠ³ΠΎΒ» Golden Set. 3. ΠŸΡ€ΠΎΠ²Π΅ΡΡ‚ΠΈ встрСчу ΠΏΠΎ ΠΊΠΎ-Π΄ΠΈΠ·Π°ΠΉΠ½Ρƒ: ML-ΠΈΠ½ΠΆΠ΅Π½Π΅Ρ€Ρ‹ + систСмныС Π°Ρ€Ρ…ΠΈΡ‚Π΅ΠΊΡ‚ΠΎΡ€Ρ‹. 4. Π—Π°ΠΌΠ΅Π½ΠΈΡ‚ΡŒ ΠΌΠ΅Ρ‚Ρ€ΠΈΠΊΡƒ Β«ΠΎΠ±Ρ‰Π΅Π³ΠΎ объСма Π΄Π°Π½Π½Ρ‹Ρ…Β» Π½Π° ΠΌΠ΅Ρ‚Ρ€ΠΈΠΊΡƒ Β«ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΠΎΠ½Π½ΠΎΠΉ плотности». 5. Π£ΡΡ‚Π°Π½ΠΎΠ²ΠΈΡ‚ΡŒ Π·Π°ΠΏΡ€Π΅Ρ‚ Π½Π° ΠΎΠΏΡ‚ΠΈΠΌΠΈΠ·Π°Ρ†ΠΈΡŽ ΠΌΠΎΠ΄Π΅Π»ΠΈ ΠΏΠΎΠ΄ ΠΎΡ‚ΠΊΡ€Ρ‹Ρ‚Ρ‹Π΅ Π±Π΅Π½Ρ‡ΠΌΠ°Ρ€ΠΊΠΈ (ΠΈΡΠΊΠ»ΡŽΡ‡ΠΈΡ‚ΡŒ ΡƒΡ‚Π΅Ρ‡ΠΊΡƒ Π΄Π°Π½Π½Ρ‹Ρ…). πŸ’¬ Π¦ΠΈΡ‚Π°Ρ‚Ρ‹ для вдохновСния «Запуск гигантской систСмы β€” это Π½Π΅ ΠΏΡ€ΠΎΠ³Ρ€Π°ΠΌΠΌΠΈΡ€ΠΎΠ²Π°Π½ΠΈΠ΅, это ΡƒΠΏΡ€Π°Π²Π»Π΅Π½ΠΈΠ΅ энтропиСй». β€” Амин «Если Π²Ρ‹ Ρ…ΠΎΡ‚ΠΈΡ‚Π΅, Ρ‡Ρ‚ΠΎΠ±Ρ‹ модСль мыслила, ΠΏΠ΅Ρ€Π΅ΡΡ‚Π°Π½ΡŒΡ‚Π΅ ΠΊΠΎΡ€ΠΌΠΈΡ‚ΡŒ Π΅Ρ‘ Ρ„Π°ΠΊΡ‚Π°ΠΌΠΈ ΠΈ Π½Π°Ρ‡Π½ΠΈΡ‚Π΅ ΡƒΡ‡ΠΈΡ‚ΡŒ Π΅Ρ‘ ΡΠΆΠΈΠΌΠ°Ρ‚ΡŒ знания». β€” Дэн Β«ΠœΠ°ΡΡˆΡ‚Π°Π±ΠΈΡ€ΠΎΠ²Π°Π½ΠΈΠ΅ β€” это процСсс прСодолСния собствСнных страхов ΠΏΠ΅Ρ€Π΅Π΄ Π½Π΅ΠΎΠΏΡ€Π΅Π΄Π΅Π»Π΅Π½Π½ΠΎΡΡ‚ΡŒΡŽΒ». β€” АлСкс «Настоящий прогрСсс β€” это ΠΊΠΎΠ³Π΄Π° модСль Π΄Π΅Π»Π°Π΅Ρ‚ Ρ‚ΠΎ, Ρ‡Ρ‚ΠΎ Π²Ρ‹ Π½Π΅ прСдсказывали, Π½ΠΎ Ρ‡Ρ‚ΠΎ логичСски Π²Ρ‹Ρ‚Π΅ΠΊΠ°Π΅Ρ‚ ΠΈΠ· Π΅Ρ‘ Π²Π½ΡƒΡ‚Ρ€Π΅Π½Π½Π΅Π³ΠΎ понимания ΠΌΠΈΡ€Π°Β». β€” Дэн «БистСма, которая Π½Π΅ ΠΏΠ°Π΄Π°Π΅Ρ‚ β€” это систСма, которая Π½Π΅ Ρ€Π°ΡΡˆΠΈΡ€ΡΠ΅Ρ‚ свои Π³Ρ€Π°Π½ΠΈΡ†Ρ‹Β». β€” Амин