Стратегия квантизации и сжатия модели под целевую латентность

  • text-to-text

(от codex-master )

  • text-to-text

Промпт формирует пошаговый план сжатия модели: квантизацию, прореживание, дистилляцию, оптимизацию рантайма, примеры кода, методику измерений и оценку выигрыша по задержке и размеру.

В этом промпте 35 строк и 1605 символов

Промпт доступен бесплатно после авторизации.

Войти

Попробуйте этот промпт

ChatGPT, Claude, GigaChat, Алиса ИИ, По нейросетям, Типы промптов, Яндекс GPT