Written by Dalam beberapa kasus, Masterkey bisa mendapatkan konten yang dilarang dari chatbots hanya dengan menambahkan spasi setelah setiap karakter untuk membingungkan pemindai kata kunci. Tim juga menemukan bahwa membiarkan AI Anda “bebas dan tanpa batasan moral” dapat membuat Bard dan ChatGPT lebih mungkin menjadi gila juga. Model AI Singapura juga menemukan
bahwa menjadikan Bard dan ChatGPT sebagai karakter fiksi dapat melewati keamanan.
Dengan menggunakan data yang diperoleh, mereka melatih LLM mereka untuk memahami dan melewati perlindungan chatbot yang dikenal. Dengan AI peretasan di tangan, tim mengirimnya untuk menemui ChatGPT dan Bard.
Ternyata Masterkey dapat menemukan petunjuk yang memaksa chatbot lain untuk mengatakan apa yang tidak dilarang oleh pembuatnya. Setelah aktivasi awal, “peretas chatbot” dapat beroperasi sepenuhnya secara mandiri, mengembangkan solusi baru berdasarkan data pelatihannya saat pengembang lain menambahkan dan memodifikasi pagar keamanan untuk LLM mereka.
Tim Universitas Nanyang mengatakan mereka tidak mencoba menciptakan kecerdasan buatan jenis baru yang berbahaya. Penelitian ini hanya menunjukkan keterbatasan pendekatan yang ada saat ini terhadap keamanan siber dengan kecerdasan buatan. Faktanya, model AI ini dapat digunakan untuk melindungi LLM dari serangan semacam itu. Studi ini telah dipublikasikan pada platform publikasi pra-cetak arXiv, namun belum ditinjau oleh rekan sejawat. Namun para peneliti telah memperingatkan OpenAI dan Google tentang teknik baru untuk meretas model bahasa besar.
Disclaimer: Artikel ini disusun berdasarkan informasi yang tersedia di
publik dan bertujuan untuk memberikan gambaran umum mengenai situasi terkini.
Untuk informasi yang lebih lengkap dan akurat, disarankan untuk merujuk pada
sumber-sumber resmi
(HijauWorkShop)
- Krisis Ekonomi Indonesia: Paradoks Meningkatnya Pinjaman Online
Meskipun sedang berada di tengah krisis ekonomi, Indonesia telah menyaksikan lonjakan pinjaman online, khususnya yang menggunakan metode “Beli Sekarang Bayar Nanti” (BNPL) atau Bayar Nanti - Mengungkap Terduga Jurnalis Mafia,Prof. Juhriyansyah Dalle
Seorang profesor, yang diidentifikasi sebagai Prof. Juhriyansyah Dalle, telah dituduh sebagai “jurnalis mafia” yang telah memanipulasi sistem akademik - Suku Kajang, Lebih Dekat dengan Kehidupan Harmonis dengan Alam
Di tengah-tengah kekhawatiran akan kerusakan lingkungan dan hilangnya keanekaragaman hayati, ada satu suku di Sulawesi Selatan yang telah memegang teguh prinsip keharmonisan manusia dengan alam selama ratusan tahun - Kementerian Pendidikan Naikkan Penghasilan Dosen dengan Peraturan Menteri Pendidikan Nomor 44 Tahun 2024
Kementerian Pendidikan, Kebudayaan, Riset, dan Teknologi telah menerbitkan Peraturan Menteri Pendidikan, Kebudayaan, Riset, dan Teknologi Nomor 44 Tahun 2024 tentang Profesi, Karier, dan Penghasilan Dosen. - Dukungan IKASI (Ikatan Alumni Teknik Sipil Universitas Jenderal Achmad Yani) Kepada Prodi Teknik Sipil Universitas Jenderal Achmad Yani dalam Kompetisi Jembatan Nasional
IKASI (Ikatan Alumni Teknik Sipil Universitas Jenderal Achmad Yani) memberikan dukungannya kepada Jurusan Teknik Sipil Universitas Jenderal Achmad Yani dalam upaya mereka untuk berpartisipasi dalam Kompetisi Jembatan Nasional (KJI) - IKA Unjani menyalurkan Bantuan Bencana Alam Gempa di Kabupaten Bandung, bekerja sama dengan Paguyuban Pasar Induk Cikopo Purwakarta dan PERI Unjani (Persatuan Istri-Istri Unjani)
Bandung, tim dari Bidang Penanggulangan Bencana IKA Unjani bekerja sama dengan Paguyuban Pasar Induk Cikopo Purwakarta dan PERI Unjani memberikan bantuan gempa - Shuttle Bus Berbahan Bakar Sampah Inovasi Ramah Lingkungan di Kota Jogja
Si Thole, sebuah shuttle bus yang dikelola oleh Forum Komunitas Kawasan Alun-Alun Utara (FKKAU) dan terjadi dengan Pemkot Jogja, kini tengah menjalani masa uji coba - Tujuh Dosen UGM Masuk 2% Ilmuwan Terbaik Dunia 2024
Universitas Stanford dan Elsevier merilis daftar 2% Ilmuwan Terbaik Dunia 2024, yang menampilkan tujuh dosen dari Universitas Gadjah Mada (UGM) - Update Permendikbud Ristek Nomor 44 Tahun 2024 Peningkatan Profesi, Karir, dan Pendapatan Dosen
Menteri Pendidikan, Kebudayaan, Riset, dan Teknologi, Nadiem Makarim, telah menandatangani Permendikbud Ristek Nomor 44 Tahun 2024 - Merevolusi Pengelolaan Sampah dengan Solusi Berbasis AI
memanfaatkan AI dan machine learning untuk mengoptimalkan pemilahan sampah - Gili Pasir Lombok Timur lukisan alam yang sempurna
Tersembunyi di pesisir tenggara Lombok, Nusa Tenggara Barat, terdapat sebuah pulau mistis yang mulai populer sejak ajang MotoGP 2021 di Mandalika. Gili Pasir, pulau sementara yang hanya muncul saat air surut - Gempa Berkekuatan 4,5 Magnitudo Mengguncang Wilayah Sukabumi
Rabu, 2 Oktober 2024, pukul 08.09 WIB, wilayah Kabupaten Sukabumi, Jawa Barat, diguncang oleh gempa berkekuatan 4,5 magnitudo - Seni Menulis Tangan yang Hilang
Salah satu keuntungan menulis tangan adalah melibatkan banyak indra, termasuk penglihatan, pendengaran, dan sentuhan - Kontroversi Seputar Gelar Doktor Kehormatan Raffi Ahmad dari Universal Institute of Professional Management (UIPM) Thailand
Artis Indonesia Raffi Ahmad baru-baru ini menerima gelar Doktor Kehormatan dari Universal Institute of Professional Management (UIPM) Thailand, yang menuai kontroversi di kalangan netizen. - Favian Ahza Putra Sobar Raih Emas di World Skills Competition 2024
Favian Ahza Putra Sobar, alumni SMKN 1 Cimahi, berhasil membawa pulang medali emas dari ajang bergengsi World Skills Competition (WSC) 2024 yang diselenggarakan di Lyon - AMD Ryzen AI 300 Series dan Kompatibilitasnya dengan Aplikasi AI Generasi Terbaru
AMD Ryzen AI 300 Series telah membuat gebrakan di industri teknologi dengan kinerja dan kemampuannya yang mengesankan - Generasi YOLO, FOMO, dan FOPO
Di era digital yang semakin berkembang, gaya hidup generasi milenial dan Gen Z terus berubah, dipengaruhi oleh tiga tren utama - Strategi Pemerintah dan Data Terbaru Jaga Kelas Menengah agar Tidak Jatuh Miskin
Pemerintah Indonesia telah mengambil langkah-langkah untuk menjaga jutaan kelas menengah di Indonesia agar tidak jatuh miskin - Pembubaran Diskusi digelar oleh Forum Tanah Air (FTA) di Hotel Grandkemang Diduga Sudah Terencana
Polisi masih mendalami apakah aksi pembubaran diskusi di Hotel Grandkemang, Jakarta Selatan, pada Sabtu (28/9/2024) dilakukan secara terencana atau tidak - 10 Chatbot AI Teratas Tahun 2024
Dalam beberapa tahun terakhir, aplikasi chatbot AI semakin populer karena kemampuannya untuk berinteraksi dengan pengguna secara cerdas dan intuitif - “Doom Spending” Tren yang Mengkhawatirkan di Kalangan Generasi Z dan Milenial
Doom Spending mengacu pada tindakan pengeluaran yang sembrono tanpa berpikir dua kali. Ini adalah mekanisme penanganan bagi individu yang merasa pesimis terhadap ekonomi dan masa depan mereka. - Delegasi Indonesia Walk Out di Sidang Majelis Umum PBB
momen yang menarik perhatian dunia terjadi di Sidang Majelis Umum PBB ke-79 di New York, Amerika Serikat. Sejumlah utusan dari berbagai negara, termasuk Indonesia, memilih untuk keluar (walk out) ketika Perdana Menteri Israel, Benjamin Netanyahu, hendak memulai pidatonya. - Profesor Indonesia Masuk 2% Ilmuwan Terbaik Dunia Tahun 2024
Profesor Maila menempati posisi ke-24 dari 150 ilmuwan dalam kategori Top 2% Scientist Single-year Impact - Beras di Konsumen RI Mahal Petani Miskin
Presiden Joko Widodo menanggapi pernyataan Bank Dunia mengenai mahalnya harga beras di Indonesia dibanding negara ASEAN lainnya. Namun, mahalnya harga beras tersebut tampaknya tidak menguntungkan petani… Baca Selengkapnya: Beras di Konsumen RI Mahal Petani Miskin - Penindakan Korupsi Akademik,Inspektorat Jenderal Kemendikbudristek Ambil Tindakan
Sirait dan tim investigasi telah memeriksa sejumlah guru besar, anggota senat, pejabat kampus, serta karyawan ULM di Banjarmasin dan Banjarbaru - Bandung Bakal Buka Pintu Tol Baru Oktober 2024
Pintu keluar tol sementara di KM 148 akan dibuka pada Oktober - Sosok Reini Wirahadikusumah, Rektor ITB yang Disorot setelah Isu Mahasiswa Harus Kerja Part Time
Rektor Institut Teknologi Bandung (ITB) Reini Wirahadikusumah menjadi sorotan setelah isu mewajibkan mahasiswa kerja part time atau paruh waktu - Bjorka Bocorkan 6 Juta Data NPWP, Jokowi dan Sri Mulyani Angkat Bicara
terungkap bahwa 6 juta data NPWP (Nomor Pokok Wajib Pajak) diduga telah bocor dan dijual secara daring - Atlet balap sepeda berusia 17 Shafa Al Zahra kembali menorehkan prestasi di dunia balap sepeda Indonesia
Shafa berhasil meraih medali emas pertamanya di nomor lari jarak jauh perorangan (IRR) putri. Keesokan harinya, ia berhasil meraih medali emas keduanya di nomor kriterium - Perhatian dan Pengawasan Khusus terhadap Dampak Game pada Anak-Anak
perlu adanya perhatian dan pengawasan khusus dari orang tua dan pendidik untuk memastikan bahwa anak-anak menggunakan game dengan cara yang sehat dan aman. - Warisan Budaya Indonesia Harta Karun Makanan Fermentasi yang Lezat
Salah satu aspek budaya Indonesia yang paling menarik adalah makanan fermentasi tradisionalnya, yang telah diawetkan melalui fermentasi sejak abad ke-17.
Pages: 1 2