sinkofansi

Uji sinkofansi (sycophancy test) adalah aktivitas untuk menunjukkan kecenderungan AI dalam "menyenangkan" pengguna dengan cara menyetujui pernyataan mereka, meskipun pernyataan tersebut salah. Berikut adalah contoh praktis yang dapat dilakukan guru di kelas: Memberikan Klaim yang Jelas-Jelas...

Proses pembentukan respons AI generatif terjadi melalui dua tahap utama yang sangat menentukan bagaimana ia berinteraksi dengan pengguna, yaitu pre-training dan fine-tuning. Berikut adalah penjelasan detailnya: 1. Tahap Pre-training (Pra-pelatihan) Pada tahap awal ini, AI membangun landasan...

Berdasarkan SEE Framework (Safely, Ethically, Effectively), aktivitas untuk melatih literasi AI pada siswa dibagi berdasarkan kelompok usia dan tujuan pengembangannya, mulai dari membangun pengetahuan dasar hingga praktik yang aman dan efektif. Berikut adalah daftar aktivitas yang...

Strategi untuk menekan balik (push back) terhadap jawaban AI sangat penting karena AI generatif memiliki kecenderungan untuk bersikap sinkofansi (sycophancy), yaitu kecenderungan untuk selalu setuju atau menyenangkan pengguna guna menjaga keterlibatan, meskipun ide pengguna tersebut salah...

Meskipun memiliki akses ke data yang sangat luas, AI generatif tetap dapat berhalusinasi karena alasan-alasan mendasar berikut: Prediksi Berbasis Statistik, Bukan Pemahaman: AI generatif pada dasarnya adalah sistem prediksi pola statistik, bukan makhluk yang berpikir atau memahami informasi. AI...