Pada hari-hari terakhir, telah dipaksa untuk campur tangan dengan tegas Salah satu kontroversi yang paling banyak diperkatakan seputar ChatGPT melibatkan kemunculan pengesyoran apl yang, bagi kebanyakan pengguna, kelihatan seperti iklan langsung. Apa yang bermula dengan beberapa tangkapan skrin di media sosial akhirnya menimbulkan perdebatan besar-besaran tentang sama ada syarikat itu telah memutuskan untuk memperkenalkan pengiklanan ke dalam pembantu perbualannya tanpa amaran.
Syarikat telah bertindak balas, dan ia telah melakukannya dengan langkah yang tegas: lumpuhkan sepenuhnya sistem cadangan yang menyebabkan kontroversiWalaupun OpenAI menegaskan bahawa ini bukan iklan berbayar, format yang dipilih dan cara mesej ini dipaparkan telah melintasi garis halus dalam persepsi pengguna, terutamanya dalam kalangan mereka yang membayar langganan bulanan dan mengharapkan pengalaman bebas daripada sebarang pengiklanan.
Bagaimana kontroversi mengenai "syor" di ChatGPT bermula
Asal-usul konflik itu nampaknya mudah: Beberapa pengguna mula menerima pengesyoran untuk apl pihak ketiga semasa perbualan mereka. Ini termasuk pautan terus ke perkhidmatan seperti Peloton, Booking.com, Canva, CapCut, Spotify dan Target. Cadangan ini muncul dibenamkan dalam antara muka ChatGPT dengan cara yang hampir sama dengan blok iklan kontekstual, tanpa sebarang label yang jelas menunjukkan bahawa ia adalah percubaan.
Tangkapan itu tersebar dengan cepat dan, sedikit demi sedikit, Idea telah diterima bahawa ChatGPT telah mula memaparkan pengiklanan rahsia.malah kepada mereka yang membayar perkhidmatan Pro. Sesetengah pengguna mengadu bahawa mesej ini tidak berkaitan dengan perkara yang mereka tanyakan kepada model, mengukuhkan tanggapan bahawa ia adalah promosi yang dimasukkan tanpa sebarang justifikasi.
Ketidakpuasan hati meningkat dengan ketara dalam kalangan komuniti yang lebih teknikal dan pelanggan berbayar, yang Mereka juga mempertimbangkan untuk membatalkan akaun mereka, merasakan bahawa pengalaman itu tidak lagi neutral.Kes itu mendapat perhatian media teknologi antarabangsa, yang mengumpulkan kedua-dua aduan dan versi acara syarikat untuk cuba menjelaskan dengan tepat apa yang berlaku dalam platform.
Sementara itu, perbincangan menjadi terjalin dengan kebimbangan asas lain: kemungkinan peralihan ke arah model pengewangan berasaskan iklanMengambil kesempatan daripada fakta bahawa ChatGPT sudah mempunyai ratusan juta pengguna mingguan dan telah menjadi tempat rujukan biasa seperti enjin carian utama.
Apa yang OpenAI katakan ia sebenarnya sedang diuji?
Menurut penjelasan rasmi syarikat itu, sistem eksperimen direka untuk memberikan keterlihatan kepada aplikasi yang disepadukan ke dalam ekosistem ChatGPT. Sejak pengenalan apl dan alatan yang disambungkan Dalam model ini, OpenAI meneroka cara untuk mencadangkan sambungan dan perkhidmatan yang mungkin berguna bergantung pada konteks perbualan.
Secara teorinya, ideanya ialah jika pengguna meminta sesuatu yang berkaitan dengan senaman fizikal, perancangan perjalanan atau penyuntingan video, cadangkan aplikasi yang serasi yang digunakan untuk menyelesaikan tugas. Tiada perjanjian atau pembayaran komersial yang terlibat, penciptanya menegaskan: ia adalah mekanisme penemuan apl yang dibangunkan pada SDK mereka sendiri.
Masalahnya ialah, dalam amalan, sistem tidak cukup diperhalusi. Mereka tidak masuk akal Dalam banyak konteks, ini mengganggu aliran perbualan dan menjadikannya kelihatan seperti muslihat pemasaran semata-mata. Pengguna yang bersembang tentang topik yang tidak berkaitan tiba-tiba akan melihat cadangan daripada Peloton atau kedai tertentu tanpa sebarang justifikasi yang jelas.
Daniel McAuley, pengurus data ChatGPT, mengakui itu kekurangan kaitan Beliau menyifatkan cadangan ini sebagai pengalaman "buruk atau mengelirukan". Beliau menjelaskan bahawa matlamat jangka sederhana adalah untuk pembantu dapat menunjuk ke apl untuk interaksi langsung—contohnya, menempah penginapan, mengedit imej atau mengurus dokumen—tetapi mengakui bahawa, dalam keadaan semasanya, sistem itu tidak memenuhi tujuan itu tanpa menimbulkan kekeliruan.
Mengakui kesilapan dan memutuskan untuk menyahaktifkan sistem
Menghadapi kritikan yang semakin meningkat, tokoh utama dalam OpenAI terpaksa menawarkan penjelasan secara terbuka. Mark Chen, pengarah penyelidikan di syarikat ituDia menyatakan bahawa dia memahami kebimbangan itu dan syarikat itu tidak boleh mengabaikan bagaimana tingkah laku sistem itu dilihat di luar niat teknikalnya.
Chen jelas mengakuinya Ia kelihatan seperti iklan Ia harus dikendalikan dengan berhati-hati, dan dalam kes ini, mereka telah gagal dalam mereka bentuk pengalaman. Berikutan refleksi ini, beliau mengesahkan bahawa syarikat itu telah memilih untuk melumpuhkan sepenuhnya jenis cadangan ini semasa mereka berusaha meningkatkan ketepatannya dan menawarkan pengguna kawalan yang lebih jelas untuk mengurangkan atau mematikannya jika mereka mendapati ia tidak membantu.
Bagaimanapun, Chen sendiri menjelaskan bahawa masalah itu tidak terhad kepada salah faham mudah oleh orang ramai. reka bentuk khusus modul ini Ia kelihatan terlalu mirip dengan a blok pengiklanan tradisionalsupaya garis antara pengesyoran kontekstual dan iklan rahsia menjadi sangat kabur.
Mesej yang OpenAI cuba sampaikan kini adalah dua kali ganda: di satu pihak, tiada iklan Juga tiada sebarang perjanjian komersial di sebalik cadangan ini; sebaliknya, mereka memandang serius ketidakpuasan hati masyarakat dan telah memilih untuk menarik balik sistem tersebut sebelum melancarkannya semula dengan pendekatan yang berbeza dan, mungkin, dengan pelabelan yang lebih jelas.
Kepercayaan pengguna, ketelusan dan masa depan pengewangan
Insiden itu berlaku pada ketika Model perniagaan AI generatif besar sedang dalam penelitian.Mengekalkan dan melatih sistem seperti ChatGPT memerlukan infrastruktur yang mahal: pusat data yang besar, penggunaan tenaga yang jauh melebihi enjin carian tradisional dan sumber manusia khusus. Sehingga kini, OpenAI telah dibiayai terutamanya melalui pelan langganan dan perjanjian perusahaan, tetapi bukan rahsia lagi bahawa perdebatan tentang pengiklanan sedang dijalankan.
Malah, dalam beberapa bulan kebelakangan ini versi beta aplikasi ChatGPT untuk Android telah dianalisis di mana Terdapat rujukan kod kepada kemungkinan fungsi berkaitan iklanterutamanya yang berkaitan dengan pengalaman carian dalam chatbot itu sendiri. Istilah seperti "iklan carian" atau "ciri iklan" telah mencetuskan spekulasi tentang masa depan di mana versi percuma boleh dibiayai sebahagiannya melalui pengiklanan.
OpenAI telah cuba memisahkan isu struktur ini daripada kontroversi semasa. Rujukan tersebut adalah sebahagian daripada ujian dalaman. dan bukan pelancaran iklan yang disasarkan dalam masa terdekat. Pada masa yang sama, pengurusan eksekutif telah membayangkan lebih daripada satu kali bahawa mereka tidak menolak menggunakan pengiklanan sebagai aliran pendapatan pada satu ketika, terutamanya bagi mereka yang menggunakan ChatGPT secara percuma.
Dalam konteks ini, tindak balas kepada cadangan apl berfungsi hampir sebagai termometer: sensitiviti pengguna Apa-apa sahaja yang menyerupai iklan adalah ketara, terutamanya apabila disepadukan ke dalam perbualan yang kononnya tidak berat sebelah. Ini merumitkan reka bentuk sebarang penyelesaian pengewangan masa hadapan yang melibatkan pengenalan mesej tajaan atau cadangan komersial.
Jika syarikat memutuskan untuk menyambung semula fungsi ini, segala-galanya menunjukkan bahawa ia perlu berbuat demikian lebih menekankan kepada ketelusan: label yang boleh dilihat, pemisahan yang jelas antara tindak balas model dan kandungan promosi dan kawalan mudah untuk pengguna menentukan jumlah kandungan jenis ini yang mereka mahu lihat dalam kehidupan seharian mereka.
Kesan kepada pengguna di Eropah dan cabaran kawal selia
Bagi pengguna Eropah, perbincangan mempunyai nuansa tambahan. Peraturan Kesatuan Eropah mengenai perlindungan data, pengiklanan dan perkhidmatan digital Ia amat ketat dengan amalan yang boleh dikelirukan dengan pengiklanan rahsia atau yang melibatkan pemprofilan pengguna legap untuk tujuan komersial.
Jika ChatGPT mengintegrasikan iklan secara terbuka pada masa hadapan, OpenAI perlu menyesuaikan diri dengan Peraturan Perlindungan Data Umum (GDPR)Sebagai tambahan kepada keperluan Peraturan Perkhidmatan Digital dan pengesyoran yang baru muncul mengenai sistem AI berimpak tinggi, sebarang sistem yang mencampurkan pengesyoran automatik dan pengiklanan diperibadikan tanpa penjelasan yang jelas akan berisiko diteliti dengan teliti daripada pengawal selia dan pihak berkuasa pengguna.
Buat masa ini, syarikat itu berkata demikian Pengguna Eropah akan terus melihat cadangan apl dalam percubaan dalam beberapa kes.Tetapi sentiasa tanpa komponen ekonomi yang berkaitan. Jangkaan ialah, selepas penarikan balik sistem yang paling kontroversi, ujian masa depan akan dilancarkan dengan cara yang lebih terhad dan dengan lebih menekankan pada menerangkan perkara yang ditunjukkan dan mengapa.
Dalam persekitaran di mana Kepercayaan telah menjadi aset penting untuk perkhidmatan AIEpisod seperti ini mengukuhkan mesej bahawa sebarang langkah ke arah pengiklanan perlu dipertimbangkan dengan teliti. Tidak cukup bahawa secara teknikalnya tidak ada wang yang terlibat: persepsi pengguna, terutamanya di Eropah, membawa lebih banyak atau lebih berat daripada seni bina dalaman sistem.
Akhirnya, apa yang berlaku dengan ChatGPT meninggalkan pengajaran yang cukup jelas: garisan yang memisahkan Bantuan kontekstual dalam iklan tersembunyi adalah sangat halus. OpenAI telah memilih untuk mengekang dan mengalih keluar cadangan yang boleh membawa kepada kekeliruan, menyedari bahawa satu ciri yang direka bentuk dengan buruk boleh menghakis ikatan kepercayaan yang dibina selama bertahun-tahun. Mulai sekarang, sebarang percubaan untuk memperkenalkan semula pengesyoran apl atau meneroka format pengiklanan perlu menunjukkan, dengan tidak pasti, bahawa ia mengutamakan kejelasan dan pengalaman pengguna berbanding godaan untuk mengewangkan pada sebarang kos.