إنّ AI Edge Torch Generative API هي مكتبة محسّنة للأجهزة الجوّالة تتيح لك تحويل نماذج PyTorch المستندة إلى المحوّلات إلى تنسيق TF Lite، ما يتيح لك تحويل النماذج اللغوية الكبيرة (LLM) إلى إنشاء الصور والنصوص على الجهاز باستخدام TF Lite وMediaPipe. لا تعمل واجهة برمجة التطبيقات AI Edge Torch Generative حاليًا على وحدة المعالجة المركزية (CPU) فقط، وتتضمّن وحدة معالجة الرسومات المخطَّط لها، ووحدة معالجة البيانات (NPU).
يستطيع مطوّرو تطبيقات الأجهزة الجوّالة استخدام واجهة برمجة التطبيقات Edge Generative لدمج نماذج PyTorch اللغوية الكبيرة مع واجهة برمجة التطبيقات MediaPipe LLM Inference API لإنشاء تطبيقات تعمل على تشغيل نماذج PyTorch المحوَّلة بالكامل على الجهاز فقط.
لمزيد من المعلومات، يُرجى الاطّلاع على مستودع GitHub في Generative Torch API.