انصاف

ارزیابی مسئولانه یک مدل یادگیری ماشینی نیاز به انجام کارهایی بیش از محاسبه معیارهای ضرر دارد. قبل از ارائه یک مدل به تولید، حسابرسی داده های آموزشی و ارزیابی پیش بینی ها برای سوگیری بسیار مهم است.

این ماژول به انواع مختلفی از تعصبات انسانی که می توانند در داده های آموزشی آشکار شوند نگاه می کند. سپس راهبردهایی برای شناسایی آنها و ارزیابی اثرات آنها ارائه می کند.

انصاف
چی میبینی؟
یک دسته موز در یک قفسه در یک فروشگاه
چی میبینی؟
  • موز
یک دسته موز
چی میبینی؟
  • موز
  • استیکرها
یک دسته موز
چی میبینی؟
  • موز
  • استیکرها
  • موز در قفسه ها
یک دسته موز
چی میبینی؟
  • موز سبز
  • موز نارس
یک دسته موز سبز
چی میبینی؟
  • موز بیش از حد رسیده
  • برای نان موز خوب است
یک دسته موز قهوه ای
چی میبینی؟

موز زرد

رنگ زرد نمونه اولیه موز است

یک دسته موز زرد
نموداری که یک گردش کار یادگیری ماشین معمولی را نشان می دهد: داده ها را جمع آوری کنید، سپس یک مدل را آموزش دهید و سپس خروجی ایجاد کنید.
نموداری که دو نوع سوگیری در داده‌ها را نشان می‌دهد: سوگیری‌های انسانی که در داده‌ها آشکار می‌شوند (مانند سوگیری همگنی بیرون گروه)، و سوگیری‌های انسانی که بر جمع‌آوری داده‌ها و حاشیه‌نویسی تأثیر می‌گذارند (مانند سوگیری تأیید).
طراحی برای انصاف
طراحی برای انصاف
  1. مشکل را در نظر بگیرید
طراحی برای انصاف
  1. مشکل را در نظر بگیرید
  2. از کارشناسان بپرسید
طراحی برای انصاف
  1. مشکل را در نظر بگیرید
  2. از کارشناسان بپرسید
  3. به مدل ها آموزش دهید تا تعصب را در نظر بگیرند
طراحی برای انصاف
  1. مشکل را در نظر بگیرید
  2. از کارشناسان بپرسید
  3. به مدل ها آموزش دهید تا تعصب را در نظر بگیرند
  4. نتایج را تفسیر کنید
طراحی برای انصاف
  1. مشکل را در نظر بگیرید
  2. از کارشناسان بپرسید
  3. به مدل ها آموزش دهید تا تعصب را در نظر بگیرند
  4. نتایج را تفسیر کنید
  5. انتشار با زمینه