Month: October 2020

Alat Untuk Menghilangkan Bias dari Komputer Vision: Bagian 2 – Wilayah dunia yang kurang terwakili dalam kumpulan data computer vision, bagaimanapun, cenderung menyebabkan bias dalam algoritma AI. Konsisten dengan analisis sebelumnya, para peneliti menemukan bahwa untuk negara asal gambar (dinormalisasi menurut populasi), Amerika Serikat dan negara-negara Eropa sangat terwakili dalam kumpulan data.

Di luar ini, REVISE menunjukkan bahwa untuk gambar dari bagian lain dunia, teks gambar sering kali tidak dalam bahasa lokal, menunjukkan bahwa banyak dari gambar tersebut ditangkap oleh wisatawan dan berpotensi mengarah ke pemandangan miring suatu negara.

Peneliti yang fokus pada deteksi objek mungkin mengabaikan masalah keadilan dalam penglihatan komputer, kata Russakovsky. “Namun, analisis geografi ini menunjukkan bahwa pengenalan objek masih bisa sangat bias dan eksklusif, serta dapat memengaruhi berbagai wilayah dan orang secara tidak adil,” katanya. agen sbobet

“Praktik pengumpulan kumpulan data dalam ilmu komputer belum diteliti secara menyeluruh sampai saat ini,” kata rekan penulis Angelina Wang, seorang mahasiswa pascasarjana dalam ilmu komputer. Dia mengatakan gambar sebagian besar “diambil dari internet, dan orang tidak selalu menyadari bahwa gambar mereka digunakan [dalam kumpulan data]. Kita harus mengumpulkan gambar dari kelompok orang yang lebih beragam, tetapi jika kita melakukannya, kita harus berhati-hati bahwa kami mendapatkan gambar dengan cara yang baik.”

“Alat dan tolok ukur adalah langkah penting … mereka memungkinkan kami untuk menangkap bias ini lebih awal dalam proses pipeline dan memikirkan kembali pengaturan dan asumsi masalah kami serta praktik pengumpulan data,” kata Vicente Ordonez-Roman, asisten profesor ilmu komputer di Universitas Virginia yang tidak terlibat dalam penelitian ini. “Dalam visi komputer, ada beberapa tantangan khusus terkait representasi dan penyebaran stereotip. Pekerjaan seperti yang dilakukan oleh Lab AI Visual Princeton membantu menjelaskan dan menarik perhatian komunitas visi komputer beberapa masalah ini dan menawarkan strategi untuk menguranginya. “

Sebuah studi terkait dari Visual AI Lab meneliti pendekatan untuk mencegah model computer vision mempelajari korelasi palsu yang mungkin mencerminkan bias, seperti aktivitas yang terlalu meramalkan seperti memasak dalam gambar wanita, atau pemrograman komputer dalam gambar pria.

Isyarat visual seperti fakta bahwa zebra berwarna hitam dan putih, atau pemain bola basket sering memakai kaus, berkontribusi pada keakuratan model, sehingga mengembangkan model yang efektif sambil menghindari korelasi yang bermasalah merupakan tantangan yang signifikan di lapangan.

Dalam penelitian yang dipresentasikan pada bulan Juni di Konferensi Internasional virtual tentang Visi Komputer dan Pengenalan Pola, mahasiswa pascasarjana teknik elektro Zeyu Wang dan rekannya membandingkan empat teknik berbeda untuk mengurangi bias dalam model visi komputer.

Mereka menemukan bahwa teknik populer yang dikenal sebagai pelatihan permusuhan, atau “keadilan melalui kebutaan”, merusak kinerja model pengenalan gambar secara keseluruhan. Dalam pelatihan adversarial, model tidak dapat mempertimbangkan informasi tentang variabel yang dilindungi – dalam studi tersebut, para peneliti menggunakan gender sebagai kasus uji. Pendekatan yang berbeda, yang dikenal sebagai pelatihan independen-domain, atau “keadilan melalui kesadaran”, bekerja jauh lebih baik dalam analisis tim.

“Pada dasarnya, ini mengatakan kita akan memiliki frekuensi aktivitas yang berbeda untuk jenis kelamin yang berbeda, dan ya, prediksi ini akan bergantung pada jenis kelamin, jadi kita hanya akan menerimanya,” kata Russakovsky.

Teknik yang diuraikan dalam makalah ini mengurangi potensi bias dengan mempertimbangkan atribut yang dilindungi secara terpisah dari petunjuk visual lainnya.

“Bagaimana kita benar-benar mengatasi masalah bias adalah masalah yang lebih dalam, karena tentu kita bisa melihatnya di datanya sendiri,” kata Zeyu Wang. “Tapi di dunia nyata, manusia masih bisa membuat penilaian yang baik sambil menyadari bias kita” – dan model computer vision bisa diatur untuk bekerja dengan cara yang sama, katanya.

Alat Untuk Menghilangkan Bias dari Komputer Vision: Bagian 1 – Para peneliti di Universitas Princeton telah mengembangkan alat yang menandai potensi bias dalam kumpulan gambar yang digunakan untuk melatih sistem kecerdasan buatan (AI). Pekerjaan tersebut adalah bagian dari upaya yang lebih besar untuk memperbaiki dan mencegah bias yang telah merayap ke dalam sistem AI yang memengaruhi segalanya mulai dari layanan kredit hingga program hukuman ruang sidang.

Meskipun sumber bias dalam sistem AI bervariasi, salah satu penyebab utamanya adalah gambar stereotip yang terdapat dalam kumpulan besar gambar yang dikumpulkan dari sumber online yang digunakan para insinyur untuk mengembangkan visi komputer, cabang AI yang memungkinkan komputer mengenali orang, objek, dan tindakan. Karena fondasi visi komputer dibangun di atas kumpulan data ini, gambar yang mencerminkan stereotip dan bias masyarakat dapat secara tidak sengaja memengaruhi model visi komputer. sbobet asia

Untuk membantu membendung masalah ini pada sumbernya, para peneliti di Lab AI Visual Princeton telah mengembangkan alat sumber terbuka yang secara otomatis mengungkap potensi bias dalam kumpulan data visual. Alat ini memungkinkan pembuat dan pengguna kumpulan data untuk memperbaiki masalah representasi yang kurang atau penggambaran stereotip sebelum koleksi gambar digunakan untuk melatih model computer vision.

Dalam pekerjaan terkait, anggota Visual AI Lab menerbitkan perbandingan metode yang ada untuk mencegah bias dalam model computer vision itu sendiri, dan mengusulkan pendekatan baru yang lebih efektif untuk mitigasi bias.

Alat pertama, yang disebut REVISE (REvealing VIsual biaSEs), menggunakan metode statistik untuk memeriksa kumpulan data untuk potensi bias atau masalah kurangnya representasi dalam tiga dimensi: berbasis objek, berbasis gender, dan berbasis geografi. Alat yang sepenuhnya otomatis, REVISE dibangun di atas pekerjaan sebelumnya yang melibatkan pemfilteran dan penyeimbangan gambar kumpulan data dengan cara yang membutuhkan lebih banyak arahan dari pengguna. Studi ini dipresentasikan pada 24 Agustus di Konferensi Eropa virtual tentang Computer Vision.

REVISE mengambil stok konten kumpulan data menggunakan anotasi gambar yang ada dan pengukuran seperti jumlah objek, kejadian bersama dari objek dan orang, dan negara asal gambar. Di antara pengukuran ini, alat menampilkan pola yang berbeda dari distribusi median.

Misalnya, dalam salah satu kumpulan data yang diuji, REVISE menunjukkan bahwa gambar yang mencakup orang dan bunga berbeda antara pria dan wanita: Pria lebih sering muncul dengan bunga dalam upacara atau pertemuan, sedangkan wanita cenderung muncul dalam pengaturan panggung atau lukisan. (Analisis terbatas pada anotasi yang mencerminkan gender biner yang dirasakan orang yang muncul dalam gambar.)

Setelah alat mengungkapkan perbedaan semacam ini, “maka muncul pertanyaan apakah ini benar-benar fakta yang tidak berbahaya, atau jika sesuatu yang lebih dalam sedang terjadi, dan itu sangat sulit untuk diotomatiskan,” kata Olga Russakovsky, asisten profesor ilmu komputer dan kepala sekolah. penyidik Lab Visual AI. Russakovsky ikut menulis makalah dengan mahasiswa pascasarjana Angelina Wang dan Arvind Narayanan, seorang profesor ilmu komputer.

Misalnya, REVISE mengungkapkan bahwa objek termasuk pesawat terbang, tempat tidur, dan pizza lebih cenderung berukuran besar dalam gambar termasuk mereka daripada objek tipikal di salah satu kumpulan data. Masalah seperti itu mungkin tidak akan mengabadikan stereotip masyarakat, tetapi bisa menjadi masalah untuk melatih model visi komputer. Sebagai obatnya, para peneliti menyarankan untuk mengumpulkan gambar pesawat yang juga menyertakan label gunung, gurun atau langit.