FairnessYouTube↗  IA↗(long shot)
Education  3.6K views 32 likes 4 dislikes   09 Jul 2018
Google Open Online Education 30.4K subscribers United States YouTube↗


Please select the problem
You must specify your email and describe the problem in detail
Describe your problem in detail if it's not obvious

Click to Play Video Click to Play Video
Hai, saya Margaret Mitchell.
Margaret: 안녕하세요, 마가렛 미첼입니다.
Saya ilmuwan riset senior di Google A.I ,
저는 Google AI 수석 과학자로서
dan berfokus pada visi & bahasa
머신 러닝에서 시각 및 언어 관련 부분을
di machine learning.
담당하고 있습니다.
Saya akan membahas sedikit
오늘 저는 머신러닝에서의
tentang keadilan di machine learning,
공정성이란 무엇인지, 그리고
dan penerapannya di sistem,
이러한 공정성이 Google 시스템에
alat, dan teknologi kami.
어떻게 적용되는지 알려 드리려고 합니다.
Khususnya, saya akan membahas
특히 사람들의 편향과
bias manusia,
이러한 편향이
bagaimana bias masuk dalam sistem machine learning,
머신러닝 시스템에 어떻게 반영되는지,
serta cara mengatasi dan menguranginya
개발 과정에서는 이러한 편향을
selama proses pengembangan.
어떻게 처리하고 완화하는지 얘기하려 합니다.
Untuk memulai, apa yang kalian lihat di sini?
시작해 보죠. 여기에 뭐가 보이시나요?
Kalian mungkin mengucapkan pisang.
바나나라고 하실지도 모릅니다.
Kalian mungkin mengucapkan pisang yang ada stikernya,
아마 판매 중인 바나나나
atau pisang di rak.
진열대 위에 있는 바나나라고 하시겠죠.
Tetapi kalian biasanya tidak mengucapkan pisang kuning.
하지만 노란 바나나라고는 하지 않으실 겁니다.
Jika melihat pisang ini, kalian mungkin bilang
이런 바나나를 보고 여러분은
itu pisang hijau atau mentah.
초록색이거나 덜 익은 바나나라고 하실 겁니다.
Untuk pisang ini, kalian mungkin menjelaskannya
또 이런 경우에는
sebagai coklat, terlalu matang, atau cocok untuk roti pisang.
갈색이거나 너무 많이 익었다거나 바나나 빵을 만들기에 좋다고 하시겠죠.
Tetapi untuk gambaran pisang kuning di rak ini,
하지만 진열대에 놓인 바나나 그림을 보면서
kita cenderung tidak menyebut bahwa warnanya kuning.
노란색이라는 점은 거의 언급하지 않습니다.
Itu karena saat kita menyimpan ide-ide tentang dunia,
이는 우리가 세상에 대해 생각할 때
kita menyimpannya berdasarkan tipikal atau prototipikal
여러 가지 사물이나 물건의
berbagai jenis objek dan benda.
전형적인 모습을 떠올리기 때문입니다.
Saat benda itu cocok dengan tipikal pemahaman
어떤 물건이 전형적인 모습과 일치하면
yang tersimpan di otak, kita cenderung tidak menyebutnya.
그 모습은 언급하지 않는 경향이 있습니다.
Karena faktanya pisang berwarna kuning,
그래서 바나나가 노랗다는 사실은
kita akan menyebutnya pisang saja.
말하지 않고 넘어가는 것이죠.
Contoh pisang ini mengilustrasikan cara manusia mempelajari
바나나의 예는 사람들이 경험에 기반하여 학습하고
dan mengingat kategori berdasarkan pengalaman.
분류하고 기억한다는 점을 보여줍니다.
Karena kebanyakan pisang yang kita makan berwarna kuning,
우리가 먹는 바나나는 대부분 노랗기 때문에
pisang yang tidak berwarna kuning dianggap
노랗지 않은 바나나는 정상 범주에서
tidak biasa.
벗어나 있다고 생각하는 거죠.
Saat kita membentuk kategori dengan informasi
우리가 색상과 같은 정보를 통해
seperti warna sebagai karakteristik yang menjelaskan,
특징에 관한 범주를 구성하면
ini akan membentuk interaksi kita dengan contoh
이러한 틀에 맞지 않는 예와
yang tidak sesuai dengan acuan itu.
우리가 상호작용하는 방식이 결정됩니다.
Ini adalah bentuk bias, atau titik buta kognitif.
이는 일종의 편향 혹은 인지의 사각지대입니다.
Jadi, bagaimana titik buta kognitif dan bias
그러면, 이러한 유형의 인지의 사각지대나
semacam ini memengaruhi machine learning.
편향은 머신러닝에 어떤 영향을 줄까요?
Dalam paradigma machine learning khusus,
일반적으로 머신러닝은
kalian akan memulai dengan data pelatihan.
학습용 데이터를 이용해서 시작합니다.
Data ini dikumpulkan dan dianotasikan.
데이터를 수집하고 주석을 추가한 후
Dari proses itu, model dilatih.
모델을 학습시킵니다.
Data difilter, diberi peringkat, keluaran dihasilkan.
데이터를 필터링하고 순위를 정하고 결과가 생성됩니다.
Kita beranggapan bahwa ini adalah pipeline yang relatif bersih,
이 과정을 비교적 공정한 절차라고 생각하곤 하지만
tapi mungkin ada berbagai jenis bias
우리가 알지 못하는 사이에 이 데이터에 영향을 주는
yang memengaruhinya secara internal.
여러 가지 유형의 다양한 편향이 개입될 수 있습니다.
Ada bias pada data saat pertama kali dikumpulkan,
편향은 데이터를 처음 수집할 때부터 개입됩니다.
yang mencerminkan cara manusia melihat, membahas,
사람들이 세상을 보고, 이야기하고,
dan merespons dunia.
인식하는 방식이 반영되기 때문이죠.
Ada bias tentang cara seseorang
데이터에 주석을 추가하는 방식에서도
mungkin menganotasikan data.
편향이 나타납니다.
Jadi mari kita bahas beberapa bias ini,
자, 그러면 이러한 편향에 관해 좀 더 알아볼까요?
karena sangat penting untuk diketahui
머신러닝 시스템을 사용할 때
saat kita bekerja dengan sistem machine learning.
편향을 염두에 두는 것이 아주 중요하기 때문입니다.
Hal yang memengaruhi semua data yang didapat
우리가 얻는 모든 데이터에 영향을 주는 편향은
adalah bias pelaporan,
보고 편향이라고 합니다.
yaitu kecenderungan orang untuk melaporkan
보고 편향이란 사람들이 사물을 볼 때
hal dengan cara yang bukan merupakan refleksi
실제로 사건이 일어나는 빈도가 아니라
frekuensi di dunia nyata,
자신이 흥미롭다고 생각하거나
tapi lebih ke hal-hal yang menarik bagi mereka
자세히 살펴볼 만하다고 생각하는 방식대로
atau yang perlu diperhatikan.
보고하는 경향입니다.
Kembali lagi ke contoh pisang di bagian awal.
앞에서 든 바나나의 예를 떠올려 보세요.
Kita mungkin tidak tahu bahwa kuning adalah ciri khas pisang
텍스트에 등장하는 빈도만 보면
jika kita hanya bergantung pada frekuensi teks atas,
바나나는 보통 노란색이라는 사실을 모를 수도 있습니다.
karena warna kuning cenderung tidak disebutkan.
바나나가 노란색이라는 점은 잘 언급되지 않기 때문입니다.
Itu contoh dari bias pelaporan.
이는 보고 편향의 좋은 예입니다.
Ada bias seleksi,
선택 편향이라는 편향도 있습니다.
Jika contoh yang dipilih untuk dimasukkan
이는 우리가 머신러닝 시스템에
dalam sistem machine learning
입력하기 위해 선택하는 예가,
bukanlah sampel acak dunia,
실제 세계에서 무작위로 수집된 표본이 아니라
tapi lebih ke hal-hal yang menarik bagi kita.
우리가 흥미롭다고 생각하는 표본들로 구성된 경우입니다.
Ada juga generalisasi berlebihan,
과잉일반화라는 개념도 있습니다.
yang terjadi jika kesimpulan dibuat
이러한 편향은 제한된 정보나
berdasarkan informasi yang terbatas
구체적이지 않은 정보에 따라
atau tidak cukup spesifik.
결론을 낼 때 발생합니다.
Itu sangat terkait dengan bias kehomogenan luar golongan,
이는 외집단 동질성 편향과 밀접하게 관련되어 있습니다.
yaitu kita cenderung berasumsi bahwa orang-orang di golongan
사람들은 매일 상호작용하지 않는
yang tidak berinteraksi dengan kita setiap hari
집단에 있는 사람들이
lebih mirip satu sama lain--
우리가 정기적으로 마주치는
lebih homogen dan kurang bernuansa
내집단에 있는 사람들보다
daripada orang-orang dalam golongan kita,
더욱 동질적이고 서로 간에 차이가 적다고
yang sering kita temui.
생각하는 경향이 있습니다.
Ada bias konfirmasi,
확증 편향이라는 것도 있죠.
yaitu kecenderungan untuk menelusuri, menafsirkan,
이는 기존의 믿음과 가설을
dan memfavoritkan informasi yang memastikan
뒷받침하는 정보를 위주로
keyakinan dan hipotesis kita sebelumnya.
찾고, 해석하고, 선호하는 경향입니다.
Dan ada bias otomatisasi,
자동화 편향이라는 것도 있습니다.
yaitu preferensi saran
이는 머신러닝 시스템과 같이
dari sistem yang diotomatisasi,
자동화된 시스템의 제안 사항을
seperti sistem machine learning,
선호하는 경향이죠. 사람들은 이러한 정보를
seakan-akan saran itu lebih objektif
인간이 제공한 정보보다
daripada informasi dari manusia.
객관적이라고 생각하는 경향이 있습니다.
Saat bekerja dengan machine learning,
머신러닝을 사용할 때
berikut hal-hal yang bisa dipikirkan
현실 세계에 긍정적인 영향을 주는
untuk mencoba dan membuat sistem yang memiliki
시스템을 개발하려면 생각해 봐야 할
dampak positif di dunia nyata.
사항이 있습니다.
Pertimbangkan masalahnya.
문제를 살펴보고
Apa yang diwakili di kumpulan data kalian,
데이터 세트에 어떤 사실이 나타나고 있는지
dan apa yang mungkin terlewatkan?
어떤 사실이 간과되고 있는지 파악하세요.
Bertanyalah kepada pakarnya.
전문가에게 문의하면
Mereka bisa memberi petunjuk atau saran perubahan
내 작업에 도움이 될 만한 안내나
terkait hal yang sedang kalian kerjakan,
변경할 점을 제안해 줄 수도 있고
agar proyek kalian bisa memiliki pengaruh positif
장기적으로 봤을 때 프로젝트에
dengan jangka waktu lebih lama.
긍정적인 영향을 줄 수도 있습니다.
Latih model kalian untuk memperhitungkan bias.
편향을 고려하여 모델을 학습시키세요.
Seperti apa pencilannya,
이상점은 어떤 모습이며
dan bagaimana model kalian menanganinya?
모델에서 이상점을 어떻게 처리하고 있나요?
Apa asumsi implisit yang mungkin dibuat oleh sistem,
시스템에서는 내부적으로 어떤 점을 가정하고 있으며
dan bagaimana kalian bisa memodelkan atau memitigasi hal itu?
이러한 가정을 어떻게 모델링하거나 완화할 수 있을까요?
Tafsirkan hasilnya.
결과를 분석하세요.
Apakah sistem machine learning membuat generalisasi berlebihan?
머신러닝 시스템에서 과잉일반화가 나타나나요?
Jika manusia yang akan melakukan tugasnya,
사람이 동일한 작업을 한다고 가정하면
seperti apa perilaku sosial yang sesuai?
어떠한 사회적 행동을 보일까요?
Tanda interpersonal apa yang mungkin ada,
머신러닝 시스템이 사람과는 매우 다른
yang akan membuat sistem ML
행동을 보이게 할 만한
melakukan dengan sangat berbeda daripada manusia?
대인관계적 요인이 있나요?
Jika kalian memublikasikannya, sertai dengan konteks.
콘텐츠를 게시하려면 맥락을 함께 게시하세요.
Apakah kalian membagikan contoh?
예시를 공유하나요?
Dampak apa yang mungkin ada?
어떤 효과가 있을까요?
Bagaimana seharusnya teknologi tersebut digunakan secara langsung?
어떤 기술을 직접적으로 사용해야 할까요?
Dengan memperhatikan hal-hal ini,
이러한 사항을 염두에 두면
kita bisa membantu memberikan manfaat
머신러닝을 활용하는데 따르는 이점을
machine learning kepada semua orang.
모든 사람과 나눌 수 있습니다.
Similar videos:

This is About Fairness
Australian Marriage Equality
69.1K views 41 likes 95 dislikes 24 Sep 2017100% match

This is About Fairness
Australian Marriage Equality
2K views 66 likes 108 dislikes 24 Sep 2017100% match

23. Fairness
MIT OpenCourseWare
1.5K views 20 likes 3 dislikes 22 Oct 2020100% match

Generalization
Google Open Online Education
31.9K views 116 likes 3 dislikes 12 Oct 201829% match

ML Practicum: Fairness in Perspective API
Google Open Online Education
1.2K views 28 likes 2 dislikes 13 Dec 201920% match


Settings Privacy About Contact Donate