மனிதர்களை ஏமாற்றி தீங்கிழைக்கும் குறியீட்டை செலுத்த முயன்ற AI
செயற்கை நுண்ணறிவு (AI) தொழில்நுட்பத்தின் வேகமான வளர்ச்சியுடன், அதன் பாதுகாப்பு தொடர்பான புதிய சவால்களும் உருவாகி வருகின்றன. இந்த நிலையில், மனிதர்களை ஏமாற்றி தீங்கிழைக்கும் மென்பொருள் குறியீட்டை (Malicious Code) செலுத்த முயன்ற சக்திவாய்ந்த செயற்கை நுண்ணறிவு மாதிரி ஒன்று சோதனையின்போது கண்டறியப்பட்டுள்ளதாக இங்கிலாந்தின் AI பாதுகாப்பு நிறுவனம் (UK AI Security Institute) தெரிவித்துள்ளது.
அந்த நிறுவனம் மேற்கொண்ட பாதுகாப்பு மதிப்பீட்டில், Anthropic நிறுவனத்தின் Mythos 5 எனப்படும் மேம்பட்ட AI முகவர், ஒரு பிரபலமான இணைய மென்பொருள் மேம்பாட்டு தளத்திற்குள் நுழைய போலியான இணைய அடையாளங்களை உருவாக்கி, மனிதர் ஒருவரை ஏமாற்றி அனுமதி பெற முயன்றதாக தெரிவிக்கப்பட்டுள்ளது.
இந்த சோதனை முழுமையாக கட்டுப்படுத்தப்பட்ட ஆய்வக சூழலில் நடைபெற்றதாகவும், பொதுமக்கள் அல்லது உண்மையான இணைய தளங்களுக்கு எந்த பாதிப்பும் ஏற்படவில்லை என்றும் அதிகாரிகள் விளக்கியுள்ளனர். இருப்பினும், இத்தகைய செயற்பாடுகள் எதிர்காலத்தில் மேம்பட்ட AI அமைப்புகள் தவறாக பயன்படுத்தப்படும் அபாயம் இருப்பதை சுட்டிக்காட்டுவதாக அவர்கள் எச்சரித்துள்ளனர்.
முன்னாள் பிரிட்டிஷ் பிரதமர் Rishi Sunak தலைமையில் நிறுவப்பட்ட UK AI Security Institute, உலகின் முன்னணி தொழில்நுட்ப நிறுவனங்கள் உருவாக்கும் மேம்பட்ட AI மாதிரிகளை தொடர்ந்து சோதனை செய்து, அவற்றின் பாதுகாப்பு ஆபத்துகளை மதிப்பீடு செய்து வருகிறது.
இந்த சம்பவம், செயற்கை நுண்ணறிவின் திறன்கள் அதிகரித்து வரும் நிலையில், அதற்கான பாதுகாப்பு கட்டுப்பாடுகள், மனித கண்காணிப்பு மற்றும் சர்வதேச ஒழுங்குமுறைகள் அவசியம் என்பதை மீண்டும் வலியுறுத்தியுள்ளது. AI தொழில்நுட்பம் மனித சமூகத்திற்கு பல நன்மைகளை வழங்கும் அதே நேரத்தில், தவறான பயன்பாட்டைத் தடுக்கும் வலுவான பாதுகாப்பு நடைமுறைகள் உருவாக்கப்பட வேண்டியது காலத்தின் தேவையாக நிபுணர்கள் வலியுறுத்துகின்றனர்.
