Aurelie Jean – Algoritmologi bukanlah Manichaeist


SebuahKami kehilangan jumlah buku, dokumenter, dan artikel surat kabar yang benar-benar memberi tahu kami tentang ancaman algoritmik terhadap masyarakat, seperti bahaya bias teknologi dan manipulasi opini di jejaring sosial. Skandal selama tiga tahun terakhir menjelaskan pos umum yang menyedihkan ini. Kasus Cambridge Analytica pada 2018 menandai dimulainya era ketidakpercayaan pada ilmu algoritmik, disiplin yang relatif baru, dengan penggunaan data ilegal dari jutaan pengguna Facebook. Namun, kita seharusnya tidak masuk ke alam Manoe, semuanya baik atau semuanya buruk: kenyataan lebih halus.

Banyak ilmuwan dan insinyur mengatur untuk memperingatkan penyimpangan dari algoritma yang tidak berbahaya ketika digunakan dengan baik atau diterapkan secara berbeda. Alat pengenal wajah sangat mengintimidasi. Ini sangat kontroversial, karena ada risiko tinggi bias algoritmik yang menyebabkan alat ini tidak dikenali (atau diremehkan) orang kulit berwarna, atau pengawasan massal warga. Inilah yang dikonfirmasi oleh ilmuwan Joy Bulamoyne, Cathy O’Neill, dan Meredith Brossard dalam film dokumenter tersebut. Bias kode. Teknologi pengenalan wajah ini didasarkan pada algoritme identifikasi gambar yang digunakan di tempat lain dalam konteks banyak aplikasi tidak berbahaya lainnya. Salah satunya adalah pengenalan gambar atau video tingkat kematangan buah pada lini produksi.

Baca jugaAurélie Jean-Gafam: Kami adalah tumit Achilles

Efek gelembung

Algoritma klasifikasi terdiri dari pengklasifikasian individu berdasarkan kategori sesuai dengan kesamaan statistik dalam perilaku dan / atau data pribadi mereka. Seseorang dalam kategori cenderung menyukai konten yang disukai anggota kelas. Ini bisa berupa serial video sesuai permintaan, pakaian di situs e-commerce, atau postingan di Twitter. Jika disalahgunakan, algoritme ini dapat membuat kategori ketat yang mengunci pengguna ke dalam lingkaran buram untuk mengamati dunia dan opini. Kita tidak pernah lagi melihat apa yang dilihat, disukai, atau dikonsumsi oleh orang yang berbeda dari kita. Aktivis AS Ellie Barries melaporkan efek gelembung tersebut.

Dalam film dokumenter Sebuah dilema sosialInsinyur Tristan Harris berbagi pengalamannya sendiri di Google, meyakini bahwa algoritme mengancam demokrasi. Namun algoritme ini, jika digunakan dengan benar, juga memungkinkan untuk mengevaluasi persentase keberhasilan perawatan medis pasien, atau mengirimkan artikel yang relevan ke situs web jurnal Anda.

Meskipun penting dan demi kepentingan publik untuk terus memperingatkan tentang risiko algoritme, penting juga untuk mengartikulasikan apa yang dapat dilakukan dengan baik dengan alat ini. Karena alasan inilah peraturan Eropa yang akan datang tentang masalah ini harus menyimpang dari sikap konservatif dan Manichaean tentang sains ini. Dan menjadi referensi global menurut visi yang akurat dan realistis … bukan distopia.


READ  Vaksin Covid-19: Berapa lama kita memiliki perlindungan?

Esila Tosun

"Penggemar musik. Penjelajah yang sangat rendah hati. Analis. Geek perjalanan. Praktisi tv ekstrim. Gamer."

Related Posts

Tinggalkan Balasan

Alamat email Anda tidak akan dipublikasikan. Ruas yang wajib ditandai *

Read also x