زیر کلاس های مستقیم شناخته شده |
گزینه های نمایندگی
enum | GpuDelegateFactory.Options.GpuBackend | کدام باطن GPU را انتخاب کنید. |
بین المللی | INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER | Delegate فقط یک بار استفاده می شود، بنابراین، زمان راه انداز/init باید در نظر گرفته شود. |
بین المللی | INFERENCE_PREFERENCE_SUSTAINED_SPEED | ترجیح می دهند توان عملیاتی را به حداکثر برسانند. |
گزینه ها () |
بولی | |
GpuDelegateFactory.Options.GpuBackend | |
بین المللی | |
رشته | |
رشته | |
بولی | |
GpuDelegateFactory.Options | |
GpuDelegateFactory.Options | setInferencePreference (ترجیح int) اولویت استنتاج را برای مبادلات دقیق / کامپایل / زمان اجرا تنظیم می کند. |
GpuDelegateFactory.Options | setPrecisionLossAllowed (دقت بولی LossAllowed) تعیین می کند که آیا از دست دادن دقیق مجاز است یا خیر. |
GpuDelegateFactory.Options | setQuantizedModelsAllowed (بولی کوانتیزه شدهModelsAllowed) اجرای مدل های کوانتیزه شده با نماینده را فعال می کند. |
GpuDelegateFactory.Options | setSerializationParams ( String serializationDir, String modelToken) سریال سازی را در نماینده فعال می کند. |
Delegate فقط یک بار استفاده می شود، بنابراین، زمان راه انداز/init باید در نظر گرفته شود.
ترجیح می دهند توان عملیاتی را به حداکثر برسانند. همان نماینده به طور مکرر در چندین ورودی استفاده می شود.
GPU Backend را تنظیم می کند.
forceBackend |
---|
اولویت استنتاج را برای مبادلات دقیق / کامپایل / زمان اجرا تنظیم می کند.
ترجیح | یکی از «INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER» (پیشفرض)، «INFERENCE_PREFERENCE_SUSTAINED_SPEED». |
---|
تعیین می کند که آیا از دست دادن دقیق مجاز است یا خیر.
precisionLossAllowed | زمانی که «true» (پیشفرض)، GPU ممکن است تانسورها، مقادیر downcast، پردازش را در FP16 کمیت کند. وقتی "نادرست" است، محاسبات در ممیز شناور 32 بیتی انجام می شود. |
---|
اجرای مدل های کوانتیزه شده با نماینده را فعال می کند.
هشدار: این یک API آزمایشی است و ممکن است تغییر کند.
quantizedModelsAllowed | وقتی true (پیشفرض)، GPU ممکن است مدلهای کوانتیزه را اجرا کند. |
---|
سریال سازی را در نماینده فعال می کند. توجه داشته باشید که serializationDir
غیر تهیDir و modelToken
برای سریالسازی مورد نیاز است.
هشدار: این یک API آزمایشی است و ممکن است تغییر کند.
serializationDir | دایرکتوری مورد استفاده برای ذخیره سازی داده ها تماس گیرنده مسئول این است که مطمئن شود مدل در یک فهرست عمومی ذخیره نمی شود. توصیه می شود از Context.getCodeCacheDir() برای ارائه یک مکان خصوصی برای برنامه در Android استفاده کنید. |
---|---|
modelToken | نشانه ای که برای شناسایی مدل استفاده می شود. تماس گیرنده مسئول اطمینان از منحصر به فرد بودن توکن برای نمودار مدل و داده است. |