Keadaan Apa Kali IaI Sering Kiraikan: Perbatasan Pembelajaran Mesin

Pengenalan: Sifat Kesalahan IaI Sebagai Fenomena Sistem

Kesalahan sistem IaI moden yang berdasarkan pembelajaran mesin (ML) bukan gangguan kebetulan, tetapi konsekuensi yang wajib dari arsitekturnya, cara pelatihannya, dan perbezaan fundamentalnya dengan pengertian manusia. Berbeza dengan manusia, IaI tidak "memahami" dunia dalam makna semantik; dia mengenali korelasi statistik dalam data. Kesalahannya muncul di tempat korelasi itu dihalangi, di tempat diperlukan pemikiran abstrak, akal sehat, atau pemahaman konteks. Analisis kesalahan ini penting bagi mengevaluasi kepercayaan IaI dan menentukan batas penggunaannya.

1. Masalah Sistem Pemilihan Data (Data Bias) dan "Undang-undang Garbage In, Garbage Out"

Sumber kesalahan yang paling sering dan berbahaya adalah sistem pemilihan data untuk pelatihan. IaI mengambil dan memperkuat prasangka yang ada dalam data.

Penyimpangan demografis: Kasus yang terkenal dengan sistem pengenalan wajah yang menunjukkan keakuratan yang lebih tinggi untuk lelaki kulit putih daripada wanita kulit hitam, karena di pelatihannya dengan sejumlah data yang tidak seimbang. Di sini IaI tidak "keliru", tetapi tepat meniru disbalans dunia nyata, yang mengakibatkan kesalahan dalam penggunaan di lingkungan yang beragam.

Penyimpangan semantik: Jika kata-kata "perawat" sering digunakan bersama dengan kata ganti "dia" dalam data pelatihan model teks, sementara "programmer" bersama dengan "dia", model akan menghasilkan teks yang mempertahankan stereotip gender ini, bahkan jika jenis kelamin tidak disebutkan dalam permintaan. Ini adalah kesalahan di tingkat konteks sosial yang model tidak mengerti.

Faktor menarik: Dalam sains komputer, prinsip "Garbage In, Garbage Out" (GIGO) beroperasi — "muskor masuk, muskor keluar". Untuk IaI, ia berubah menjadi prinsip yang lebih mendalam "Bias In, Bias Out" — "smearing masuk, smearing keluar". Sistem tidak dapat melampaui batasan data yang dia pelatih.

2. Serangan adversarial: Hackerisme untuk IaI

Ini adalah perubahan yang sengaja, seringkali tak disadari manusia, dalam data masukan yang mengakibatkan kesimpulan yang salah secara radikal bagi IaI.

Contoh gambar: Stikte beberapa piksel warna dan bentuk tertentu di tanda "BERHENTI" dapat membuat sistem penglihatan otomatis mengklasifikasikan dia sebagai tanda "batas kecepatan". Untuk manusia, tanda tetap jelas dikenali.

Mekanisme: Contoh adversarial mengeksploitasi "zon kelebihan" di ruang ciri tinggi dimensi model. IaI mengalami dunia bukan seperti objek yang utuh, tetapi seperti pola statistik. Gangguan kecil tetapi strategis dapat menggerakkan titik data di ruang ciri melintasi batas penyelesaian model, mengubah klasifikasi.

3. Masalah penyelesaian dan "dunia dalam kotak"

IaI, terutama jaringan saraf lembut, cenderung ke overfitting — mereka mengingat bukan pola umum, tetapi contoh-kontoh khusus dari sampel pelatihan, termasuk gangguan.

Kesalahan data "dari distribusi lain": Model yang di pelatihannya dengan gambar anjing dan kucing di rumah di siang hari dapat kehilangan keakuratan sepenuhnya jika diberikan gambar infra merah malam atau lukisan kartun. Dia tidak mengenali konsep abstrak "kecenderungan kucing", tetapi belajar merespon pola piksel khusus.