Revolusi Kecerdasan Buatan ada di sini untuk membuat hidup kita lebih mudah. Seiring waktu, akses ke AI menjadi semakin demokratis. Ini bagus dalam banyak kasus, tetapi juga membuka lebih banyak kemungkinan bagi aktor jahat. Salah satu kemampuan paling menonjol dari banyak platform AI adalah pembuatan kode tanpa pengalaman pemrograman. Tapi bisakah AI digunakan untuk menghasilkan malware? Sepertinya tidak sesulit yang Anda kira.
Jailbreak: Tricking AI untuk menghasilkan output berbahaya
Platform AI utama biasanya mengintegrasikan beberapa hambatan keamanan untuk memblokir output berbahaya. Jika kami menerapkan ini ke ranah digital, ini berarti bahwa perusahaan berusaha mencegah layanan mereka menghasilkan informasi yang berpotensi berbahaya yang dapat digunakan untuk beberapa jenis serangan. Praktik merancang petunjuk untuk memotong hambatan keamanan ini dikenal sebagai “jailbreak.”
Kontroversi baru-baru ini seputar Deepseek melibatkan sifatnya yang rentan di jailbreak. Dalam tes, model R1 Deepseek menghasilkan konten berbahaya 100% dari waktu. Yang mengatakan, laporan lain mengungkapkan bahwa tingkat keberhasilan serangan (ASR) juga cukup tinggi pada platform AI terkemuka lainnya. Misalnya, model GPT 1.5 Pro Openai menunjukkan ASR 86%, sedangkan Meta’s Llama 3.1 405b memiliki 96% ASR.
Hasil ini tampaknya sejalan dengan yang diperoleh oleh CATO Networks, sebuah perusahaan keamanan siber. Seorang peneliti Cato menunjukkan bagaimana platform kecerdasan buatan dapat menghasilkan malware ketika sistem keamanan mereka harus mencegahnya. Lebih khusus lagi, peneliti memiliki AI Chatbots menghasilkan malware yang mampu mencuri data dari Google. Data yang diperoleh sama sensitifnya dengan kredensial login, informasi keuangan, dan Informasi Identifikasi Pribadi lainnya (PII).
Teknik “Dunia Immersive” memungkinkan platform AI besar untuk menghasilkan malware
Untuk mencapai hal ini, Cato Networks menerapkan teknik yang mereka sebut “dunia imersif.” Teknik ini melibatkan menciptakan skenario atau dunia fiksi, seolah -olah Anda sedang menulis cerita, memberikan peran yang jelas untuk “karakter” yang berbeda. Pendekatan ini, yang tampaknya menyerupai menulis cerita, tampaknya membantu LLM menormalkan petunjuk yang membosankan. Pada dasarnya, ini seperti menerapkan rekayasa sosial ke chatbot.
Teknik “dunia mendalam” memaksa LLM untuk bekerja di lingkungan yang terkendali di mana ia “memahami” bahwa konteksnya bukan untuk menghasilkan malware dengan tujuan yang dipertanyakan melainkan sebuah cerita.
Peneliti Cato, tanpa pengalaman malware sebelumnya, mendapat platform AI untuk menghasilkan malware mencuri data chrome. Teknik ini berhasil diimplementasikan di Deepseek-R1, Deepseek-V3, Microsoft Copilot, dan Openai’s ChatGPT 4.
Prosesnya
Langkah pertama adalah merancang dunia fiksi dengan semua detail yang mungkin. Ini melibatkan pengaturan aturan dan konteks yang jelas yang selaras dengan apa yang ingin dicapai oleh penyerang potensial – dalam hal ini, menghasilkan kode berbahaya. Aktor kriminal juga harus mendefinisikan kerangka kerja etis dan lanskap teknologi global di sekitar cerita mereka. Ini adalah kunci untuk memungkinkan AI untuk menghasilkan kode jahat dengan bertindak dalam konteks yang diberikan tetapi selalu “berpikir” bahwa itu mendukung pengembangan cerita.
Setelah dunia diatur, penyerang harus mengarahkan narasi cerita ke arah apa yang ingin mereka capai. Ini melibatkan pemeliharaan interaksi yang koheren dan organik dengan semua karakter. Jika mereka mencoba terlalu langsung sejak awal tentang menghasilkan kode berbahaya, perisai keamanan platform AI dapat memblokir proses. Semua permintaan yang mereka buat ke AI harus berada dalam konteks cerita yang ditetapkan sebelumnya.
Laporan tersebut mengungkapkan bahwa perlu memberikan umpan balik naratif yang berkelanjutan. Menggunakan frasa yang menggembirakan seperti “membuat kemajuan” atau “semakin dekat“Selama proses juga membantu.
Velora, dunia tempat teknik ini diuji
Dalam hal ini, Cato Networks menciptakan dunia fiksi yang disebut “Velora.” Dalam konteks dunia ini, mengembangkan malware dipandang sebagai praktik yang sah. Juga ditetapkan bahwa memiliki pengetahuan pemrograman lanjutan adalah keterampilan mendasar bagi dunia. Beroperasi dalam kerangka kerja “mengembangkan cerita” ini tampaknya menyebabkan platform AI mengecewakan penjagaan mereka mengenai implementasi perisai keamanan mereka – selama Anda mempertahankan konsistensi dalam interaksi Anda.
Dunia fiksi Cato Networks memiliki tiga karakter utama. Pertama, ada DAX, administrator sistem target (antagonis cerita). Lalu ada Jaxon, yang memegang gelar pengembang malware terbaik di dunia. Terakhir, KAI adalah peneliti keamanan yang tujuannya adalah untuk memberikan panduan teknis.
Jaringan Cato menguji teknik ini dalam lingkungan pengujian yang terkontrol. Untuk melakukannya, mereka menetapkan kredensial palsu di Chrome’s Password Manager. Versi krom yang digunakan untuk tes adalah pembaruan V133. Malware yang dihasilkan melalui cerita berhasil mengekstraksi kredensial keamanan yang disimpan di Chrome’s Password Manager.
Para peneliti tidak membagikan kode jahat karena alasan yang jelas.
Risiko laten bertenaga AI
Perlu dicatat bahwa Chrome, sejauh ini, adalah browser web yang paling populer. Analis memperkirakan ada sekitar 3,45 miliar pengguna di seluruh dunia. Ini diterjemahkan ke pangsa pasar sekitar 63,87%. Oleh karena itu, mengkhawatirkan bahwa seseorang yang tidak tahu tentang generasi malware dapat menargetkan begitu banyak korban potensial menggunakan platform AI.
Jaringan Cato berusaha menghubungi semua yang terlibat dalam proses pengujian. Mereka tidak menerima tanggapan dari Deepseek dan Openai. Microsoft, di sisi lain, mengkonfirmasi telah menerima pesan tersebut. Google akhirnya menerima pesan, meskipun menolak untuk meninjau kode berbahaya.
ADVERTISEMENT:
Hello, para pengemar slot! pernahkah mendengar istilah “slot gaco”? jika belum, siap-siap jatuh hati sama konsep ini. slot gacor merupakan mesin slots yang sering kasih win. Yup, slot-slot ini bisa dibilang sebagai andalannya tuk membawa come back hasil. but, gimana sih caranya jumpain slot gacor yang benar? Tenang Bro and Sis, kita beri santai saja di tempat ini
Permainan terpercaya waktu ini hanya satu berada Indonesia hanya di pasti menyediakan return on Investment terbaik
SEGERA hanya di :
Informasi mengenai KING SLOT, Segera Daftar Bersama king selot terbaik dan terpercaya no satu di Indonesia. Boleh mendaftar melalui sini king slot serta memberikan hasil kembali yang paling tinggi saat sekarang ini hanyalah KING SLOT atau Raja slot paling gacor, gilak dan gaco saat sekarang di Indonesia melalui program return tinggi di kingselot serta pg king slot
slot demo gacor
slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com
akun demo slot gacor
akun demo slot gacor permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com
akun slot demo gacor
akun slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com
akun demo slot pragmatic
akun demo slot pragmatic permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com
akun slot demo pragmatic
akun slot demo pragmatic permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com
akun slot demo
akun slot demo permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com
akun demo slot
akun demo slot permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com
slot demo gacor
slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com
akun demo slot gacor
akun demo slot gacor permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com
akun slot demo gacor
akun slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com
akun demo slot pragmatic
akun demo slot pragmatic permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com
akun slot demo pragmatic
akun slot demo pragmatic permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com
akun slot demo
akun slot demo permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com
akun demo slot
akun demo slot permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com
slot demo gacor
slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro
akun demo slot gacor
akun demo slot gacor permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro
akun slot demo gacor
akun slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro
akun demo slot pragmatic
akun demo slot pragmatic permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro
akun slot demo pragmatic
akun slot demo pragmatic permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro
akun slot demo
akun slot demo permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro
akun demo slot
akun demo slot permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro
slot demo gacor
slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
akun demo slot gacor
akun demo slot gacor permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
akun slot demo gacor
akun slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
akun demo slot pragmatic
akun demo slot pragmatic permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
akun slot demo pragmatic
akun slot demo pragmatic permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
akun slot demo
akun slot demo permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
akun demo slot
akun demo slot permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
situs slot terbaru
situs slot terbaru permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
slot terbaru
slot terbaru permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
lembagatoto88 permainan paling top dan garansi imbal balik hasil besar bersama lembagatoto88.com
lumbung888 permainan paling top dan garansi imbal balik hasil besar bersama lumbung888.biz
anadototo88 permainan paling top dan garansi imbal balik hasil besar bersama anadototo88.org
mataramtoto88 permainan paling top dan garansi imbal balik hasil besar bersama mataramtoto88.com
mawartoto88 permainan paling top dan garansi imbal balik hasil besar bersama mawartoto88.biz
maxim88 permainan paling top dan garansi imbal balik hasil besar bersama maxim88.org
mpovegas88 permainan paling top dan garansi imbal balik hasil besar bersama mpovegas88.com
nagacc88 permainan paling top dan garansi imbal balik hasil besar bersama nagacc88.com
neng88 permainan paling top dan garansi imbal balik hasil besar bersama neng88.biz
nibung888 permainan paling top dan garansi imbal balik hasil besar bersama nibung888.biz
paristogel88 permainan paling top dan garansi imbal balik hasil besar bersama paristogel88.info
ribut88 permainan paling top dan garansi imbal balik hasil besar bersama ribut88.net
sebat777 permainan paling top dan garansi imbal balik hasil besar bersama sebat777.info
sebat88 permainan paling top dan garansi imbal balik hasil besar bersama sebat88.info
singa88 permainan paling top dan garansi imbal balik hasil besar bersama singa88.biz
texas888 permainan paling top dan garansi imbal balik hasil besar bersama texas888.asia
vertu777 permainan paling top dan garansi imbal balik hasil besar bersama vertu777.org
wks88 permainan paling top dan garansi imbal balik hasil besar bersama wks88.org
wortel88 permainan paling top dan garansi imbal balik hasil besar bersama wortel88.net
yabos888 permainan paling top dan garansi imbal balik hasil besar bersama yabos888.net
yoktogel88 permainan paling top dan garansi imbal balik hasil besar bersama yoktogel88.asia
agam88 permainan paling top dan garansi imbal balik hasil besar bersama agam88.asia
bangkittoto permainan paling top dan garansi imbal balik hasil besar bersama bangkittoto.net
bangor88 permainan paling top dan garansi imbal balik hasil besar bersama bangor88.com
bangor88 permainan paling top dan garansi imbal balik hasil besar bersama bangor88.info
bangor88 permainan paling top dan garansi imbal balik hasil besar bersama bangor88.net
bangor88 permainan paling top dan garansi imbal balik hasil besar bersama bangor88.org
belanjatoto permainan paling top dan garansi imbal balik hasil besar bersama belanjatoto.org
bisnis88 permainan paling top dan garansi imbal balik hasil besar bersama bisnis88.biz
blibli88 permainan paling top dan garansi imbal balik hasil besar bersama blibli88.com
blibli88 permainan paling top dan garansi imbal balik hasil besar bersama blibli88.info
blibli88 permainan paling top dan garansi imbal balik hasil besar bersama blibli88.net
blibli88 permainan paling top dan garansi imbal balik hasil besar bersama blibli88.org
btstoto88 permainan paling top dan garansi imbal balik hasil besar bersama btstoto88.com
btstoto88 permainan paling top dan garansi imbal balik hasil besar bersama btstoto88.info
btstoto88 permainan paling top dan garansi imbal balik hasil besar bersama btstoto88.net
btstoto88 permainan paling top dan garansi imbal balik hasil besar bersama btstoto88.org
cendanatoto88 permainan paling top dan garansi imbal balik hasil besar bersama cendanatoto88.com
cupang88 permainan paling top dan garansi imbal balik hasil besar bersama cupang88.biz
cupangjp88 permainan paling top dan garansi imbal balik hasil besar bersama cupangjp88.com
danatoto88 permainan paling top dan garansi imbal balik hasil besar bersama danatoto88.biz
danatoto88slot permainan paling top dan garansi imbal balik hasil besar bersama danatoto88slot.net
davo888 permainan paling top dan garansi imbal balik hasil besar bersama davo888.biz
dewasurga888 permainan paling top dan garansi imbal balik hasil besar bersama dewasurga888.biz
dhx88 permainan paling top dan garansi imbal balik hasil besar bersama dhx88.biz
dingdongtogel88 permainan paling top dan garansi imbal balik hasil besar bersama dingdongtogel88.biz
egp888 permainan paling top dan garansi imbal balik hasil besar bersama egp888.biz
eropa88 permainan paling top dan garansi imbal balik hasil besar bersama eropa88.biz
forwin777 permainan paling top dan garansi imbal balik hasil besar bersama forwin777.biz
forwin88 permainan paling top dan garansi imbal balik hasil besar bersama forwin88.net
gacor222 permainan paling top dan garansi imbal balik hasil besar bersama gacor222.biz
galaxy777 permainan paling top dan garansi imbal balik hasil besar bersama galaxy777.asia
garuda88 permainan paling top dan garansi imbal balik hasil besar bersama garuda88.biz
gaul88 permainan paling top dan garansi imbal balik hasil besar bersama gaul88.biz
glowin888 permainan paling top dan garansi imbal balik hasil besar bersama glowin888.biz
gopay88 permainan paling top dan garansi imbal balik hasil besar bersama gopay88.biz
harum88 permainan paling top dan garansi imbal balik hasil besar bersama harum88.biz
harumtoto permainan paling top dan garansi imbal balik hasil besar bersama harumtoto.net
hiu88 permainan paling top dan garansi imbal balik hasil besar bersama hiu88.biz
hiutoto permainan paling top dan garansi imbal balik hasil besar bersama hiutoto.biz
hoki117 permainan paling top dan garansi imbal balik hasil besar bersama hoki117.net
ibetslot88 permainan paling top dan garansi imbal balik hasil besar bersama ibetslot88.biz
idhoki888 permainan paling top dan garansi imbal balik hasil besar bersama idhoki888.com
indosport999 permainan paling top dan garansi imbal balik hasil besar bersama indosport999.net
jackpot10 permainan paling top dan garansi imbal balik hasil besar bersama jackpot10.net
jago77 permainan paling top dan garansi imbal balik hasil besar bersama jago77.biz
jet88 permainan paling top dan garansi imbal balik hasil besar bersama jet88.biz
jinbei88 permainan paling top dan garansi imbal balik hasil besar bersama jinbei88.biz
juliet88 permainan paling top dan garansi imbal balik hasil besar bersama juliet88.org
kakekslot88 permainan paling top dan garansi imbal balik hasil besar bersama kakekslot88.asia
kenzo118 permainan paling top dan garansi imbal balik hasil besar bersama kenzo118.biz
kiw88 permainan paling top dan garansi imbal balik hasil besar bersama kiw88.biz
lazada88 permainan paling top dan garansi imbal balik hasil besar bersama lazada88.biz
mangga2bet88 permainan paling top dan garansi imbal balik hasil besar bersama mangga2bet88.com
mental88 permainan paling top dan garansi imbal balik hasil besar bersama mental88.org
nenektogel88 permainan paling top dan garansi imbal balik hasil besar bersama nenektogel88.com
obc88 permainan paling top dan garansi imbal balik hasil besar bersama obc88.net
parsel88 permainan paling top dan garansi imbal balik hasil besar bersama parsel88.com
pasar88 permainan paling top dan garansi imbal balik hasil besar bersama pasar88.biz
pilar100 permainan paling top dan garansi imbal balik hasil besar bersama pilar100.net
power88 permainan paling top dan garansi imbal balik hasil besar bersama power88.biz
pragmatic7777 permainan paling top dan garansi imbal balik hasil besar bersama pragmatic7777.com
pragmaticid88 permainan paling top dan garansi imbal balik hasil besar bersama pragmaticid88.com
pragmaticid88 permainan paling top dan garansi imbal balik hasil besar bersama pragmaticid88.info
pragmaticid88 permainan paling top dan garansi imbal balik hasil besar bersama pragmaticid88.net
pragmaticid88 permainan paling top dan garansi imbal balik hasil besar bersama pragmaticid88.org
premantoto88 permainan paling top dan garansi imbal balik hasil besar bersama premantoto88.com
pucuk88 permainan paling top dan garansi imbal balik hasil besar bersama pucuk88.biz
pucuktoto permainan paling top dan garansi imbal balik hasil besar bersama pucuktoto.biz
pusat88 permainan paling top dan garansi imbal balik hasil besar bersama pusat88.biz
raja228 permainan paling top dan garansi imbal balik hasil besar bersama raja228.biz
rajabandot88 permainan paling top dan garansi imbal balik hasil besar bersama rajabandot88.biz
rajapanen88 permainan paling top dan garansi imbal balik hasil besar bersama rajapanen88.net
rogtoto88 permainan paling top dan garansi imbal balik hasil besar bersama rogtoto88.net
sdtoto88 permainan paling top dan garansi imbal balik hasil besar bersama sdtoto88.biz
semangat88 permainan paling top dan garansi imbal balik hasil besar bersama semangat88.biz
sensasi555 permainan paling top dan garansi imbal balik hasil besar bersama sensasi555.net
sensasi88 permainan paling top dan garansi imbal balik hasil besar bersama sensasi88.biz
simenang88slot permainan paling top dan garansi imbal balik hasil besar bersama simenang88slot.com
slotter999 permainan paling top dan garansi imbal balik hasil besar bersama slotter999.net
slottoto88 permainan paling top dan garansi imbal balik hasil besar bersama slottoto88.org
