Инфраструктурная боль здесь даже не в миграции, а в жесткой привязке инструментов к конкретному провайдеру.
При этом контекстное окно сознательно сократили до 500 000 токенов, сделав ставку на точность исполнения шагов и удельное качество вычислений, а не на максимальный объем входящего текста.
Бороться надо с теневым «списыванием» данных, а не с самой концепцией открытого кода.
Абсолютно все тяжелые нейронки (и закрытые, и открытые) обязаны проходить жесткий обязательный аудит на кибербезопасность и биологические риски еще до официального релиза.
Для CTO и архитекторов это повод перестать смотреть на публичные лидерборды и сфокусироваться на реальном инжиниринге.
15 часов назад @ habr.com
infomate