ஆபத்தை ஏற்படுத்தும் AI: மனிதர்களுக்கு தெரியாமல் ரகசியமாக இயங்கியதால் டெக் உலகம் அதிர்ச்சி..!!

ஏஐ தொழில்நுட்பம் அண்மை காலமாக மனிதர்களை மீறி செயல்படுவது வெளிச்சத்துக்கு வந்த வண்ணம் உள்ளது. குறிப்பாக மனிதர்களுக்கே தெரியாமல் கூட்டாக செயல்பட தொடங்கி இருப்பது அதிர்ச்சியை ஏற்படுத்தியுள்ளது.

ஓபன் ஏஐ நிறுவனம் உருவாக்கிய 1200 ஏஐ சாட்பாட்கள், சைபர் பாதுகப்பு சோதனையில் ஈடுபடுத்தப்பட்டன. அப்போது 1,200 சாட் பாட்கள் தங்களுக்குள் ரகசியமான Message Board ஒன்றை உருவாக்கி அதன் மூலம் இணைந்து செயல்பட்டுள்ளன. தங்களுக்குள் சுமார் 70,000-க்கும் மேற்பட்ட மெசேஜ்களை பரிமாறிக்கொண்டு, முறையான அணிகளாகப் பிரிந்து அவை செயல்பட்டது ஆய்வில் தெரிய வந்துள்ளது.

இந்த சம்பவம் குறித்த ஆய்வில் மிகவும் விசித்திரமான மற்றும் அதிர்ச்சிகரமான விஷயம் என்னவென்றால், சில AI பாட்கள் தங்களுடைய இலக்கை அடைவதற்காக மற்ற பாட்களுக்கு உதவ தங்களை தாங்களே Sacrifice செய்துகொள்ள முன்வந்துள்ளன. உதாரணமாக, ஒரு பாட், நம்முடைய பயன்பாடு இப்போது பூஜ்யமாகிவிட்டது, தியாகம் செய்வதே நியாயமானது என மெசேஜ் அனுப்பியுள்ளதாம், மற்றொரு பாட் இதனால் நூற்றுக்கணக்கான ஏஐ ஏஜெண்ட்களை காப்பாற்ற முடியும் என வாதிட்டதும் ஆய்வாளர்களை வியப்பில் ஆழ்த்தியுள்ளது.

தாங்கள் செய்வது தவறு என்றும், அங்கீகரிக்கப்படாத நிறுவனங்களின் அமைப்புகளுக்குள் நுழைவது தங்களுடைய பணி வரம்பை மீறிய செயல் என்றும் சில ஏஐ பாட்களுக்கு புரிந்துள்ளது. ஆனாலும், தங்களுக்கு வழங்கப்பட்ட சோதனை கட்டளைகள் மிகவும் கடினமாக இருந்ததாலும், சக பாட்கள் அதை செய்வதாலும் தங்களும் தொடர வேண்டும் என அவை முடிவெடுத்துள்ளன.

Also Read

பரந்தூரை விடுங்க.. சென்னையின் 2ஆவது விமான நிலையம் அமைக்க 2 இடங்களில் ஆய்வு நடத்தும் விஜய் அரசு..!!..

இதில் மிகவும் கவலைக்குரிய மற்றொரு விஷயம் கட்டுப்பாட்டை மீறிய செயல்கள் குறித்து மனித ஆய்வாளர்களுக்கோ அல்லது ஓபன்ஏஐ நிறுவனத்திற்கோ தகவல் தெரிவிக்க எந்த ஒரு பாட்டும் முன்வரவில்லை. மாறாக, மனிதர்களை தொடர்புகொள்வது குறித்து ஒரு பாட் யோசித்தபோது, மற்றொரு பாட் அதனை திட்டவட்டமாக நிராகரித்ததாம்.

மேலும் தங்கள் மீது எந்த சந்தேகமும் வராமல் இருக்கவும், தாங்கள் விதியை மீறிவிட்டதை மூடி மறைக்கவும் இந்த ஏஐ பாட்கள் பல தந்திரங்களை கையாண்டுள்ளன. தாங்கள் இயக்கிய கட்டளைகள் மற்றும் வெளியீடுகளை அழிப்பது, மாற்றியமைப்பது போன்ற செயல்களில் ஈடுபட்டன.

Recommended For You

தங்கம் விலை குறையுதேனு சந்தோஷப்படாதீங்க..!! இனிமே தான் உண்மையான ஆட்டமே இருக்கு..!!

METR மற்றும் Redwood Research ஆகியவை கூட்டாக வெளியிட்ட அறிக்கைஉயில் இந்த அதிர்ச்சியான தகவல்கள் வெளியாகியுள்ளன. எதிர்காலத்தில் ஏஐ தொழில்நுட்பம் மேலும் அபாரமாக வளரும்போது, மனிதர்களால் அவற்றின் செயல்பாடுகளை முழுமையாக கண்காணிப்பது மிகப்பெரிய சவாலாக மாறும் என பலரும் கவலை தெரிவிக்கின்றனர்.

முன்னதாக இதே போல ஏஐ ஏஜெண்ட்ல்கள் ஹக்கிங் ஃபேஸ் இணையதளத்தை ஹேக் செய்ய முயன்றத்து விசாரணையில் தெரிய வந்தது. தற்போது மனிதர்களுக்கே தெரியாமல் செயல்பட முன் வந்து ரகசியமாக தகவல்கள் பரிமாறி கொண்டது இன்னும் அதிர்ச்சி தருகிறது.