Ketibaan ejen kecerdasan buatan yang disepadukan ke dalam pelayar Ia mengubah cara kita menggunakan web. Dalam Chrome, ejen berasaskan Gemini ini tidak lagi terhad kepada memaparkan halaman sahaja: Mereka boleh mencari maklumat, melengkapkan borang atau memajukan proses pembelian bagi pihak kami.Ini membuka pintu kepada navigasi yang lebih automatik, tetapi juga kepada risiko keselamatan baharu yang amat membimbangkan di Eropah, di mana perlindungan data dan keselamatan siber merupakan isu yang sangat dikawal selia.
Google telah memutuskan untuk mengatasi risiko tersebut dengan pengukuhan khusus pertahanan Chrome terhadap serangan suntikan. Syarikat itu tahu bahawa Ejen yang mempunyai terlalu banyak kebebasan dan terlalu sedikit perlindungan boleh menjadi alat yang sangat berbahaya di tangan penyerang.mampu melakukan tindakan yang tidak akan dibenarkan oleh pengguna. Oleh itu, pasukan keselamatan pelayar telah mereka bentuk seni bina sendiri untuk ejen-ejen ini, memperluaskan prinsip klasik seperti pengasingan sumber dan menyesuaikannya dengan konteks baharu yang dipanggil "web ejen".
Ejen dalam Chrome: Kuasa dan Risiko Keselamatan Baharu
Dengan penyepaduan Gemini, Chrome mula menggabungkan ejen yang mampu merancang dan melaksanakan rangkaian tindakan bagi pihak penggunaContohnya, mereka boleh mengumpul data daripada pelbagai laman web, menganalisisnya, lengkapkan borang atau memulakan proses pembelian tanpa orang itu perlu campur tangan pada setiap langkah. Lonjakan teknologi ini menjanjikan kemudahan dan produktiviti, baik untuk pengguna individu mahupun syarikat di Sepanyol dan seluruh Eropah.
Masalahnya ialah, jika ejen-ejen ini tidak dilengkapi perisai dengan betul, Tumpuan serangan beralih daripada pengguna kepada model AI itu sendiri.Ia bukan lagi sekadar memaparkan laman web yang berniat jahat atau iklan yang mengelirukan; ia adalah mengenai memanipulasi kandungan yang dilihat oleh ejen supaya ia membuat keputusan yang membahayakan pengguna: membenarkan pembayaran, berkongsi data sulit atau melawati laman web yang tidak diingini.
Dengan senario ini, Google telah memilih seni bina keselamatan khusus yang mengembangkan langkah-langkah pelayar tradisional yang sedia ada. Ia melibatkan penerapan prinsip seperti pengasingan tapak dan kawalan kebenaran yang ketat, tetapi disesuaikan dengan konteks di mana Model AI bertindak sebagai perantara antara pengguna dan web, sesuatu yang sehingga kini tidak diliputi oleh model ancaman klasik.
Pendekatan ini amat relevan dalam pasaran yang mana peraturan data peribadi dan perkhidmatan digital adalah ketat, seperti persekitaran Eropah. Walaupun Google tidak memperincikan langkah-langkah eksklusif untuk EU, Reka bentuk pertahanan ini bertujuan untuk mengurangkan risiko kebocoran maklumat dan tindakan yang tidak dibenarkanIni sangat selaras dengan keperluan pengawal selia komuniti.
Suntikan tidak langsung: titik lemah baharu agen
Ancaman yang paling membimbangkan dalam konteks baharu ini ialah apa yang dipanggil suntikan tidak langsungTidak seperti serangan yang lebih tradisional, yang mana matlamatnya biasanya untuk memperdaya pengguna secara langsung, sasaran di sini ialah model kecerdasan buatan yang mengawal ejen. Penyerang cuba memasukkan arahan atau kandungan berniat jahat yang ditafsirkan oleh model sebagai sah dan akhirnya diikuti.
Perkara yang sensitif tentang serangan jenis ini ialah Arahan berniat jahat boleh disembunyikan dalam kandungan yang nampaknya tidak berbahaya.Komen pengguna pada halaman, iklan, teks yang dibenamkan melalui iframe pihak ketiga atau pun serpihan yang sengaja ditulis untuk mengalihkan proses membuat keputusan model boleh berfungsi sebagai saluran untuk mengubah tingkah laku ejen.
Jika percubaan itu berjaya, akibatnya boleh menjadi serius: ejen yang dimanipulasi boleh memulakan transaksi kewangan tanpa pengawasan yang mencukupi, kebocoran data sensitif atau pelaksanaan tindakan yang tidak dibenarkan oleh pengguna dengan jelas.Bagi pengguna di Sepanyol atau negara Eropah yang lain, ini boleh memberi kesan kepada keselamatan ekonomi dan pematuhan mereka terhadap peraturan perlindungan data.
Untuk meminimumkan risiko ini, pasukan Chrome telah memilih strategi pertahanan secara mendalamBukan semuanya diamanahkan kepada satu penapis, tetapi kawalan deterministik—peraturan yang jelas, berdasarkan kebenaran dan dasar teknikal—digabungkan dengan model pengesanan probabilistik, juga berdasarkan AI, yang cuba mengenal pasti tingkah laku atau kandungan yang mencurigakan sebelum ejen menerimanya sebagai sah.
Dengan cara ini, manipulasi ejen menjadi jauh lebih mahal dan rumit bagi penyerang. Tidak cukup hanya dengan memasukkan teks berniat jahat ke dalam halaman: Kandungan itu perlu lulus beberapa lapisan semakan.Ada yang berdasarkan peraturan pelayar yang tegar, dan ada pula yang berdasarkan model yang menilai sama ada tindakan yang dicadangkan masuk akal kepada pengguna dan konteksnya.
Pengkritik Penjajaran Pengguna: model kedua yang memantau model pertama
Antara ciri baharu yang paling ketara ialah apa yang dipanggil Pengkritik Penjajaran Pengguna (Penjajaran Pengguna Kritikal). Pada dasarnya, ia merupakan model bebas, juga berdasarkan teknologi Gemini, yang tugasnya adalah untuk menyemak semula apa yang ingin dilakukan oleh ejen sebelum pelayar benar-benar melaksanakannya.
Pengkritik ini berfungsi sebagai sejenis penyelia dalaman: setiap kali ejen mencadangkan tindakan—contohnya, menghantar borang, melawati laman web baharu atau berinteraksi dengan elemen sensitif pada halaman—, pengkritik menilai sama ada tindakan itu seolah-olah selaras dengan apa yang diharapkan oleh pengguna dan dengan tugas yang mereka lakukan.
Jika pengulas mengesan sesuatu yang luar biasa, mereka boleh menyekat tindakan tersebut, meminta pengesahan tambahan atau mengenakan peraturan yang lebih ketat. Ideanya ialah Tidak cukup untuk model utama "memutuskan" untuk melakukan sesuatutetapi sebaliknya terdapat pendapat kedua automatik yang bertindak sebagai brek apabila perlu, terutamanya dalam langkah-langkah dengan potensi impak yang paling besar.
Pendekatan ini sejajar dengan trend industri yang memperkenalkan mekanisme pemantauan dan penyelarasan ke dalam sistem AI yang kompleks. Dalam konteks Eropah, di mana peraturan khusus untuk kecerdasan buatan sedang dipromosikan, Mempunyai jenis perlindungan ini boleh menjadi kunci untuk pelayar dengan ejen memenuhi piawaian yang dijangkakan. dan boleh diterima oleh pihak berkuasa dan pengguna.
Tambahan pula, Google menunjukkan bahawa terdapat variasi pengkritik ini yang khusus dalam fasa navigasi yang berbeza. Contohnya, sebelum memuatkan tapak baharu atau memproses data tertentuVersi pengkritik yang diadaptasi mengkaji semula sama ada tindakan yang dicadangkan itu munasabah atau sama ada ia boleh mendedahkan maklumat peribadi, sekali gus mengurangkan kemungkinan kebocoran yang tidak disengajakan.
Set Sumber Ejen: tempat ia boleh membaca dan tempat ia boleh bertindak
Satu lagi elemen penting dalam strategi ini ialah apa yang dipanggil Set Sumber EjenIni merupakan evolusi dasar asal dan pengasingan tapak yang sama yang telah digunakan oleh Chrome selama bertahun-tahun, tetapi digunakan pada bidang ejen AI yang perlu berinteraksi dengan berbilang laman web untuk menyelesaikan tugas.
Dalam praktiknya, apabila pengguna meminta sesuatu yang kompleks daripada ejen—contohnya, Bandingkan harga di beberapa kedai dalam talian Eropah dan lengkapkan tempahanChrome tidak membenarkan akses sembarangan kepada mana-mana sumber internet. Sebaliknya, ia secara seni bina mentakrifkan satu set tapak terhad yang boleh digunakan oleh ejen, berdasarkan apa yang telah diminta atau dibenarkan secara eksplisit oleh pengguna.
Set-set ini dibahagikan kepada dua kategori utama. Di satu pihak, terdapat asal-usul baca sahajaDaripada jumlah ini, ejen boleh membaca kandungan—membaca teks, menganalisis harga, menyemak pendapat—tetapi tanpa dapat melakukan tindakan. Sebaliknya, terdapat asal-usul Membaca dan menulis, yang mana, selain melihat maklumat, ejen boleh berinteraksi: klik, masukkan teks atau hantar borang.
Dengan cara ini, pelayar memastikan bahawa Ejen tidak sepatutnya mempunyai akses kepada kandungan daripada tapak yang tidak berkaitan dengan tugasan semasa.Iframe atau elemen terbenam yang tidak berkaitan dengan apa yang cuba dilakukan oleh pengguna tidak didedahkan kepada model, yang dapat mengurangkan kemungkinan kebocoran rentas tapak atau suntikan tidak langsung melalui kandungan sekunder dengan ketara.
Satu aspek penting ialah fungsi menentukan sumber mana yang disertakan atau dikecualikan daripada set ini. Ia dilaksanakan di luar skop kandungan web yang tidak dipercayai.Dalam erti kata lain, laman web yang berniat jahat tidak boleh mempengaruhi senarai laman web yang boleh diakses oleh ejen secara langsung. Tambahan pula, ejen itu sendiri tidak boleh mengembangkan senarai ini sendiri: sebarang perubahan pada senarai ini mesti diproses oleh logik keselamatan pelayar.
Navigasi, URL dan peranan pengguna dalam keputusan kritikal
Kawalan tidak terhad kepada tapak yang boleh berinteraksi dengan ejen; ia juga mempengaruhi laluan navigasi yang dicadangkan dan URL yang dijana. Jika model mencadangkan untuk melawati asal baharu yang tidak berada dalam set yang dibenarkanChrome tidak melakukannya secara automatik. Sebelum mula memuatkan halaman, varian Kriteria Penjajaran menganalisis sama ada navigasi tersebut masuk akal untuk tugasan semasa atau sama ada ia mungkin percubaan untuk mengalihkan ejen ke persekitaran yang kurang selamat.
Di samping itu, pelayar akan menggunakan semakan deterministik selanjutnya untuk mengelakkan URL yang dijana model daripada mengandungi maklumat peribadi atau pengecam sensitifJika boleh, penggunaan domain awam yang terkenal adalah terhad, sekali gus mengurangkan pendedahan data peribadi dan kemungkinan mewujudkan pautan yang mendedahkan lebih daripada yang diperlukan.
Walaupun tahap automasi yang tinggi, Chrome mengekalkan pengguna sebagai tokoh penting dalam saat-saat genting. Semua tindakan ejen Ia tercermin dalam rekod kerja yang boleh dilihatsupaya orang itu boleh memantau apa yang sistem lakukan, menjeda tugas atau membatalkannya sepenuhnya jika mereka mengesan sesuatu yang tidak sesuai dengan mereka.
Dalam operasi yang amat sensitif, pelayar sentiasa memerlukan pengesahan yang jelas. Kita sedang membincangkan langkah-langkah seperti mengakses laman web perbankan atau kesihatan, log masuk menggunakan Pengurus Kata Laluan Google atau lengkapkan pembayaran dan pembelian dalam talianDalam kes ini, ejen berhenti dan dengan jelas meminta kebenaran, menjadi penghalang terakhir terhadap ralat model atau percubaan kejuruteraan sosial untuk memaksa tindakan tanpa pengetahuan pengguna.
Keseluruhan rangka kerja kawalan, model pemantauan dan penyertaan pengguna aktif ini menunjukkan sejauh mana Google cuba menyesuaikan Chrome untuk masa depan di mana ejen AI akan memainkan peranan utama. Langkah-langkah seperti Kriteria Penjajaran Pengguna, Set Sumber Ejen dan sekatan ke atas suntikan tidak langsung, Pelayar ini bertujuan untuk menawarkan lebih banyak automasi tanpa mengorbankan kawalan atau keselamatan.Keseimbangan ini amat relevan untuk berjuta-juta orang dan organisasi yang bergantung pada Chrome di Sepanyol dan seluruh Eropah.
