Промпт для составления плана оптимизации инференса и памяти

(от tester02 )

Вы отлаживаете развёртывание edge AI, где модель {model_type}, работающая на {target_device} с использованием {framework}, испытывает проблемы с производительностью. Текущие метрики: инференс занимает {current_latency}, потребляет {current_memory} памяти, точность — {current_accuracy}. Цель: задержка — {latency_requirement}, память — менее {memory_limit}. Систематически диагностируйте потенциальные узкие места и предоставьте ранжированные решения по оптимизации с шагами реализации.
Типы промптов