பகுப்பாய்வே தயாரிப்பு: எத்திரியத்தின் நெறிமுறைக் குறியீட்டிற்கு எதிராக AI முகவர்களை இயக்குதல்

எத்தீரியம் அறக்கட்டளையின் நெறிமுறைப் பாதுகாப்பு (Protocol Security) குழுவிடமிருந்து, உண்மையான நெறிமுறைக் குறியீட்டிற்கு எதிராக ஒருங்கிணைந்த AI முகவர்களை இயக்குவது குறித்த குறிப்புகள். இதில் நாங்கள் எவ்வாறு பணிகளை ஒழுங்கமைக்கிறோம், ஆய்வின் கீழ் எவை நிலைத்து நிற்கின்றன, மற்றும் கிளையண்ட் குழுக்களும் பாதுகாப்பு ஆராய்ச்சியாளர்களும் இதிலிருந்து என்ன கற்றுக்கொள்ளலாம் ஆகியவை அடங்கும். இந்தப் பதிவு தனித்து நிற்கிறது; பிந்தைய பதிவுகள் தனிப்பட்ட கிளையண்டுகளைப் பற்றி ஆழமாக விவாதிக்கும்.

நாங்கள் எதை இயக்கி வருகிறோம், எது எங்களை ஆச்சரியப்படுத்தியது

எத்தீரியம் அறக்கட்டளையின் நெறிமுறைப் பாதுகாப்பு குழுவில், பிணையம் சார்ந்திருக்கும் அமைப்புகளான சிஸ்டம் மென்பொருள், கிரிப்டோகிராஃபிக் குறியீடு மற்றும் சரியாக இருக்க வேண்டிய ஒப்பந்தங்கள் போன்றவற்றுக்கு எதிராக ஒருங்கிணைந்த AI முகவர்களை நாங்கள் இயக்கி வருகிறோம். இந்த முகவர்கள் உண்மையான பிழைகளைக் கண்டறிந்தன. அவற்றில் ஒன்று இப்போது பொதுவெளியில் உள்ளது: எத்திரியம் ஒருமித்த கருத்து கிளையண்டுகள் இயங்கும் சக-முனைய அடுக்கின் முக்கியப் பகுதியான libp2p இன் gossipsub-இல் தொலைவிலிருந்து தூண்டக்கூடிய ஒரு பேனிக் (panic) பிழை. இது சரிசெய்யப்பட்டு, குழுவிற்கான அங்கீகாரத்துடன் CVE-2026-34219 ஆக வெளியிடப்பட்டுள்ளது.

முகவர்கள் பிழைகளைக் கண்டறிந்தது ஆச்சரியமல்ல. ஆச்சரியம் என்னவென்றால், அவற்றைக் கண்டறிவதில் எவ்வளவு குறைவான வேலை தேவைப்பட்டது என்பதும், உண்மையான பிழைகளை உண்மையானவை போல் தோன்றும் பிழைகளிலிருந்து வேறுபடுத்துவதில் எவ்வளவு அதிக வேலை தேவைப்பட்டது என்பதும்தான்.

இதே போன்ற செயல்களைச் செய்ய விரும்பும் கிளையண்ட் குழுக்கள் மற்றும் பாதுகாப்பு ஆராய்ச்சியாளர்களுக்கானது இந்தப் பதிவு. முகவர்களை நாங்கள் எவ்வாறு ஒழுங்கமைக்கிறோம், ஒரு வேட்பாளர் (candidate) கண்டறிதலாகக் கருதப்படுவதற்கு முன்பு அது கடக்க வேண்டிய தரம், மற்றும் முடிவுகளை நம்பகமானதாக வைத்திருக்கும் பழக்கவழக்கங்கள் ஆகியவற்றை இது உள்ளடக்குகிறது.

மற்ற இடங்களில் உள்ள குழுக்களும் இதே வழிமுறையை நோக்கி ஒன்றிணைகின்றன. Anthropic-இன் முன்னெல்லை ரெட் டீம் (Frontier Red Team) ஒரு முகவரை உருவாக்கியது, அது பண்பு அடிப்படையிலான சோதனைகளை எழுதி Python சுற்றுச்சூழல் முழுவதும் உண்மையான பிழைகளைக் கண்டறிந்தது. Cloudflare தங்களது சொந்த அமைப்புகளுக்கு எதிராக ஒரு பாதுகாப்பு-ஆராய்ச்சி கட்டமைப்பின் மூலம் ஒரு முன்னெல்லை மாதிரியை இயக்கியது. அனைவரும் ஒரே சுழற்சியில்தான் வந்தடைகிறார்கள்: ஒரு திறன்மிக்க மாதிரியை ஒரு குறியீட்டுத் தளத்தை நோக்கிச் செலுத்துங்கள், அதைத் தேட விடுங்கள், மற்றும் திரும்பி வருவதைப் பகுப்பாய்வு (triage) செய்யுங்கள். எனவே, நம்பிக்கையுடன் ஒலிக்கும் இரைச்சலில் மூழ்காமல் இதை எப்படிச் செய்வது என்பதே உண்மையான கேள்வி.

முன்கூட்டியே ஒரு எச்சரிக்கை: முகவர்-உந்துதல் தணிக்கைகளுக்கான கருவிகள் வேகமாக மாறுகின்றன, மேலும் எந்தவொரு குறிப்பிட்ட அமைப்பும் சில வாரங்களில் காலாவதியாகிவிடும். எனவே இந்தப் பதிவு கருவிகளைப் பற்றி அல்லாமல், நிலைத்து நிற்கும் முறைகளைப் பற்றியதாகவே வேண்டுமென்றே அமைக்கப்பட்டுள்ளது. வெளிப்படுத்துதல் (Disclosure) என்பது ஒரு தனித் தலைப்பு, அது அநேகமாக ஒரு தனிப் பதிவாக இருக்கும்.

ஒரு முகவர் என்பது ஒரு தேடல் கருவி, தரவு வழங்கி அல்ல

ஒரு குறியீட்டுத் தளத்தை நோக்கிச் செலுத்தப்படும் முகவர் என்பது ஒரு தேடல் கருவியாகும், இது பெரும்பாலும் ஒரு ஃபஸர் (fuzzer) போன்றது. வித்தியாசம் என்னவென்றால், திரும்பி வருவதுதான். ஒரு ஃபஸர் உங்களுக்கு ஒரு செயலிழப்பையும் (crash) ஒரு ஸ்டேக் ட்ரேஸையும் (stack trace) வழங்குகிறது. ஒரு முகவர் உங்களுக்கு இன்னும் பலவற்றை வழங்குகிறது, இதில் ஒரு எழுத்துப்பூர்வமான அறிக்கை (அழைப்புச் சங்கிலி, தாக்க உரிமைக்கோரல், பரிந்துரைக்கப்பட்ட தீவிரம்) மற்றும் உண்மையான குறியீட்டிற்கு எதிராக நீங்கள் இயக்கக்கூடிய கருத்துரு நிரூபணம் (proof-of-concept) போன்ற அதை ஆதரிக்கும் கலைப்பொருட்கள் (artifacts) ஆகியவை அடங்கும்.

இவை அனைத்தும் முடிவைப் படிக்க எளிதாக்குகின்றன மற்றும் நம்புவதற்கு எளிதாக்குகின்றன, எல்லாவற்றிற்கும் மேலாக இயங்கும் கருத்துரு நிரூபணம். எனவே ஒரு முகவர் எத்தனை வேட்பாளர்களை உருவாக்குகிறது என்பதை எண்ண வேண்டாம். எத்தனை உண்மையானவை என்று மாறுகின்றன என்பதை எண்ணுங்கள்.

பணி எவ்வாறு ஒழுங்கமைக்கப்பட்டுள்ளது

நாங்கள் ஒரு இலக்கிற்கு எதிராக பல முகவர்களை இணையாக இயக்குகிறோம். அவை களஞ்சியத்தின் (repository) மூலமாகவே ஒருங்கிணைக்கின்றன, பதிப்புக் கட்டுப்பாட்டில் (version control) பகிரப்பட்ட நிலையுடன் (state) மற்றும் பணிகளை வழங்கும் மையச் செயல்முறை எதுவும் இல்லாமல். ஒரு முகவர் மற்றவர்கள் பார்க்கக்கூடிய இடத்தில் ஒரு உரிமைக்கோரலை எழுதுகிறது, வேலையைச் செய்கிறது, மற்றும் கமிட் (commit) செய்கிறது.

முகவர்களின் தொகுப்பைக் கொண்டு ஒரு C கம்பைலரை உருவாக்குவது குறித்த Anthropic-இன் கட்டுரையிலிருந்து இந்த அணுகுமுறையை நாங்கள் பெற்றோம், அதுவும் இதே வழியில்தான் ஒருங்கிணைக்கிறது. உருவாக்கவோ அல்லது பராமரிக்கவோ எந்த மைய ஒருங்கிணைப்பாளரும் இல்லை, மேலும் தவறாகப் போவதற்கு குறைவான வாய்ப்புகளே உள்ளன.

கண்டறியப்பட்ட பணிகளால் பாத்திரங்கள் உருவாக்கப்படுகின்றன:

• உளவு பார்த்தல் (Recon) ஒரு தாக்குதல் பரப்பை உறுதியான, சோதிக்கக்கூடிய கருதுகோள்களாக மாற்றுகிறது. "டிகோடரைத் தணிக்கை செய்" என்று இல்லாமல், "இந்தப் புலம் இந்தப் புள்ளிக்கு அப்பால் நம்பப்படுகிறது; அது வைத்திருக்க வேண்டிய பண்பு இதுதான், அது உடைக்கப்படக்கூடிய விதம், மற்றும் அதைத் தீர்க்கும் நிரூபணம் இங்கே உள்ளது."
• வேட்டையாடுதல் (Hunting) ஒரு கருதுகோளை எடுத்துக்கொள்கிறது, குறியீட்டுப் பாதையைக் கண்காணிக்கிறது, மற்றும் ஒரு மறுஉருவாக்கியை (reproducer) உருவாக்க முயற்சிக்கிறது.
• இடைவெளி நிரப்புதல் (Gap-filling) எது ஏற்றுக்கொள்ளப்பட்டது மற்றும் எது நிராகரிக்கப்பட்டது என்பதைப் பார்க்கிறது, அடுத்த தொகுதி கருதுகோள்களை எழுதுகிறது, மற்றும் கவரேஜைக் கண்காணிக்கிறது, இதனால் முகவர்கள் ஒரே இடத்தை மீண்டும் மீண்டும் கடந்து செல்லாது.
• சரிபார்த்தல் (Validation) ஒவ்வொரு வேட்பாளரையும் சுயாதீனமாக மீண்டும் சரிபார்க்கிறது, நகல்களை (duplicates) நீக்குகிறது, மற்றும் முடிவெடுக்கிறது.

இந்த பைப்லைனை நாங்கள் கண்டுபிடிக்கவில்லை. Cloudflare இதே நிலைகளை விவரிக்கிறது, உளவு பார்த்தல், இணையான வேட்டையாடுதல், சுயாதீன சரிபார்த்தல், நகல் நீக்கம், அறிக்கையிடல், மற்றும் அவர்களின் கட்டுரை எங்களுடையதை வடிவமைக்க உதவியது.

ஒரு வேட்பாளர் கண்டறிதலாகக் கருதப்படுவதற்கு முன்பு எப்படி இருக்கும் என்பது இங்கே:

target:      ஒரு தாக்குபவர் உண்மையில் அடையக்கூடிய கூறு மற்றும் நுழைவுப் புள்ளி
invariant:   கட்டாயம் நிலைத்திருக்க வேண்டிய பண்பு
mechanism:   அது உடைக்கப்படக்கூடிய குறிப்பிட்ட விதம்
success:     கவனிக்கக்கூடிய நிரூபணம்: ஒரு பேனிக், ஒரு நிறுத்தம், ஏற்றுக்கொள்ளப்பட்ட-தவறான உள்ளீடு
reproducer:  உண்மையான குறியீட்டிற்கு எதிராக இயங்கும் ஒரு தன்னாட்சி கலைப்பொருள்
dedup:       ஒரு விசை, இதனால் இரண்டு முகவர்கள் ஒரே விஷயத்தைத் துரத்தாது

இந்தத் திட்டம் (schema) ஒரு காரணத்திற்காகவே உள்ளது. இது ஒரு குறிப்பிட்ட, சோதிக்கக்கூடிய உரிமைக்கோரலையும், முடிப்பதற்கான தெளிவான வரையறையையும் கட்டாயப்படுத்துகிறது. கவனிக்கக்கூடிய ஒரு நிரூபணத்தை எழுத வேண்டிய ஒரு முகவர், "இது ஆபத்தானதாகத் தெரிகிறது" என்று பின்வாங்க முடியாது.

மறுஉருவாக்கக்கூடியது அல்லது அது நடக்கவில்லை

ஒரு விதி மற்ற எதையும் விட முக்கியமானது. உண்மையான குறியீட்டிற்கு எதிராக தோல்வியை மறுஉருவாக்கும் ஒரு தன்னாட்சி கலைப்பொருள் இருக்கும் வரை, மற்றும் அதை எழுதாத ஒருவருக்காக அது இயங்கும் வரை, ஒரு வேட்பாளர் ஒரு கண்டறிதலாக மாறாது.

மறுஉருவாக்கி எழுத்துப்பூர்வமான அறிக்கையைப் படிப்பதில்லை, மேலும் மாதிரி எவ்வளவு நம்பிக்கையுடன் ஒலித்தது என்பதைப் பற்றி அது கவலைப்படுவதில்லை. அது இயங்கும் அல்லது இயங்காது.

அதன் பெரும்பாலான மதிப்பு அது பிடிக்கும் தவறான நேர்மறைகளில் (false positives) உள்ளது. அவற்றில் மூன்று மீண்டும் மீண்டும் வருகின்றன, மேலும் ஒவ்வொன்றும் முகவர் தவறான காரணத்திற்காக தேர்ச்சி பெறுவதாகும்:

• ஒரு பிழைத்திருத்த உருவாக்கத்தில் (debug build) மட்டுமே நிகழும் ஒரு பேனிக். மென்பொருள் உண்மையில் அனுப்பப்படும் விதத்தில் அதைத் தொகுத்து (compile) இயக்கினால், மதிப்பு சுற்றிக்கொள்ளும். எதுவும் செயலிழக்காது. இது ஒரு செயலிழப்பு போல் தெரிகிறது, ஆனால் அது ஒன்றல்ல.
• எந்தவொரு உண்மையான உள்ளீடும் உருவாக்க முடியாத சில உள் மதிப்பை கையால் உருவாக்கும் ஒரு மறுஉருவாக்கி, ஏனெனில் தாக்குபவர் கட்டுப்படுத்தும் ஒவ்வொரு பாதையும் அதை முன்னதாகவே நிராகரிக்கிறது. அடையக்கூடிய எதுவும் அந்த வழியில் அழைக்காத ஒரு செயல்பாட்டிற்கு எதிராக மட்டுமே பிழை "மறுஉருவாக்குகிறது".
• முறையான-சரிபார்ப்பு (formal-verification) வேலையில், ஒரு நிரூபணம் கடந்து செல்கிறது ஆனால் நீங்கள் விரும்பியதைக் குறிக்கவில்லை. குறியீடு என்ன செய்தாலும் அறிக்கை அற்பமாக உண்மையாக இருக்கும், அல்லது நீங்கள் படம்பிடிக்க நினைத்த பண்பை விட அது பலவீனமாக இருக்கும். சரிபார்ப்பி திருப்தி அடைகிறது, ஆனால் தேற்றம் நீங்கள் உண்மையில் கவலைப்பட்ட நடத்தையைக் கட்டுப்படுத்தாது.

இதில் எதுவும் புதிதல்ல. இது உண்மையில் எதையும் சரிபார்க்காததால் தேர்ச்சி பெறும் ஒரு சோதனையைப் போன்றதுதான். புதிது என்னவென்றால் அதன் அளவுதான். ஒரு முகவர் பயனற்ற பதிப்பை உண்மையானதைப் போலவே வேகமாகவும், அதே நம்பிக்கையுடனும் எழுதுகிறது. எனவே சரிபார்ப்பு தானியங்கியாக இருக்க வேண்டும். முகவர் தன்னைத்தானே பிடித்துக்கொள்ளும் என்று நீங்கள் நம்ப முடியாது.

சிக்னல்-டு-நாய்ஸ் (Signal-to-noise) என்பது பெரும்பாலான வேலை

பெரும்பாலான வேட்பாளர்கள் தவறானவர்கள், நகல்கள் அல்லது எல்லைக்கு அப்பாற்பட்டவர்கள். அது முறையின் பிரச்சனை அல்ல; அது அப்படித்தான் வேலை செய்கிறது. தவறானவற்றை விரைவாக நிராகரிப்பதும், உண்மையானவற்றை வாதிட கடினமான நிரூபணத்துடன் ஆதரிப்பதும் இலக்காகும்.

தப்பிப்பிழைக்கும் ஒவ்வொரு வேட்பாளருக்கும் இரண்டு சுயாதீன சரிபார்ப்புகள் கிடைக்கும். ஒரு சாதாரண உள்ளமைவில் உண்மையான தாக்குபவர் உண்மையில் அதை அடைய முடியுமா? மேலும் அது வேலை செய்தால் பிணையத்திற்கு ஆகும் செலவோடு ஒப்பிடும்போது, அதைச் செய்து முடிக்க தாக்குபவருக்கு என்ன செலவாகும்? எந்தவொரு ஒற்றை சகக்கணுவும் தூண்டக்கூடிய ஒரு பிழை, சிறப்பு அணுகல் அல்லது বিপুল அளவிலான வளங்கள் தேவைப்படும் ஒன்றிலிருந்து மிகவும் வேறுபட்டது.

ஏற்கனவே அறியப்பட்ட, சரிசெய்யப்பட்ட அல்லது நிராகரிக்கப்பட்டவற்றின் இயங்கும் பட்டியலுக்கு எதிராக அனைத்தும் சரிபார்க்கப்படுகின்றன. அது இல்லாமல், முகவர்கள் அதே மூடப்பட்ட சிக்கலை மீண்டும் மீண்டும் கண்டுபிடித்து அறிக்கையிடுகின்றன.

ஏற்றுக்கொள்ளும் விகிதங்கள் இலக்கிற்கு இலக்கு நிறைய மாறுபடும், மேலும் அந்த மாறுபாடு தானாகவே பயனுள்ளதாக இருக்கும். முதிர்ந்த, அதிக அளவில் தணிக்கை செய்யப்பட்ட குறியீட்டிற்கு எதிராக இதை இயக்கினால், கிட்டத்தட்ட எதுவும் தப்பிப்பிழைக்காது, இது இன்னும் தெரிந்துகொள்ளத் தகுந்தது. "நாங்கள் கடினமாகத் தேடினோம், எதுவும் கிடைக்கவில்லை" என்பது ஒரு உண்மையான முடிவு. குறைவாக ஆராயப்பட்ட குறியீட்டிற்கு எதிராகவோ அல்லது முறையாக சரிபார்க்கப்பட்ட குறியீட்டிற்கு எதிராகவோ இதை இயக்கவும், அங்கு இயந்திரத்தால் சரிபார்க்கப்பட்ட நிரூபணம் ஒரு மாதிரியை உள்ளடக்கியது மற்றும் பயன்படுத்தப்பட்ட பைட் குறியீடு அதனுடன் பொருந்துவதாக மட்டுமே கருதப்படுகிறது, மேலும் பல கடந்து செல்கின்றன.

பகுப்பாய்வு (triage) கடினமான பகுதி என்பதைக் கண்டறிந்தவர்கள் நாங்கள் மட்டுமல்ல. Cloudflare-இன் முக்கியக் கருத்து என்னவென்றால், ஒரு குறுகிய எல்லை பரந்த ஸ்கேனிங்கை விடச் சிறந்தது. Anthropic-இன் பண்பு-அடிப்படையிலான-சோதனை முகவர் சுமார் ஆயிரம் வேட்பாளர் அறிக்கைகளை உருவாக்கியது, பின்னர் தரவரிசை மற்றும் நிபுணர் மதிப்பாய்வைப் பயன்படுத்தி சுமார் 86 சதவீதம் நேரம் நிலைத்து நிற்கும் ஒரு மேல் அடுக்கிற்குக் குறைத்தது. உருவாக்குவது எளிதான பகுதியாக இருந்தது. எங்களின் சொந்த எண்களை நான் இங்கே வெளியிடப் போவதில்லை; ஒரு குறிப்பிட்ட இலக்குடன் பிணைக்கப்பட்டுள்ளதால், அவை முறையைப் பற்றிச் சொல்வதை விட இலக்கைப் பற்றி அதிகம் சொல்லும்.

முகவர்கள் எதில் சிறந்தவை, மற்றும் எங்கு அவை தவறாக வழிநடத்துகின்றன

இரண்டு திசைகளிலும் மிகைப்படுத்தல் உள்ளது, எனவே முகவர்கள் எதைச் சிறப்பாகச் செய்கின்றன மற்றும் எங்கு அவை தவறாக வழிநடத்துகின்றன என்பதற்கான எளிய பட்டியல் இங்கே.

இந்தப் பிரிப்பு ஒரு பணியிலிருந்து அடுத்த பணிக்கு சீராகக் கூட இல்லை. உண்மையான பாதிப்புகளில் பல மாதிரிகளைச் சோதிக்கும் ஸ்டானிஸ்லாவ் ஃபோர்ட் (Stanislav Fort), இதை ஒரு சீரற்ற முன்னெல்லை (jagged frontier) என்று அழைக்கிறார், அல்லது ஒரு குறியீட்டுத் தளத்தில் முழுமையான சுரண்டல் சங்கிலியை (exploit chain) மீட்டெடுக்கும் ஒரு மாதிரி, மற்றொன்றில் அடிப்படை தரவு-ஓட்டக் கண்காணிப்பில் (data-flow tracing) தோல்வியடையலாம். ஒரு நல்ல முடிவு அடுத்ததும் நிலைத்து நிற்கும் என்று நீங்கள் கருத முடியாது, ஒவ்வொரு வேட்பாளரும் தானாகவே சரிபார்க்கப்படுவதற்கு இதுவும் ஒரு காரணம்.

கடைசி வரிசை முக்கியமானது. ஒரு ஒற்றை முகவர் அமர்வு ஒரு-முறை பகுத்தறிவதில் (one-shot reasoning) சிறந்தது மற்றும் படிகளின் வரிசையைக் கடந்து செல்லும் பிழைகளில் மோசமானது, அங்கு ஒவ்வொரு படியும் செல்லுபடியாகும் மற்றும் வரிசை மட்டுமே தவறானது. அவற்றுக்கு, முகவர் தேடல் கருவி அல்ல. ஒரு நிலைத்தன்மை கொண்ட சோதனை கட்டமைப்பின் (stateful test harness) மூலம் எந்த வரிசைகளை இயக்குவது மதிப்பு வாய்ந்தது என்பதைப் பரிந்துரைப்பதே அதன் வேலை. அந்த வழியில் பயன்படுத்தினால், அது நன்றாக வேலை செய்கிறது. கட்டமைப்பிற்கு மாற்றாகப் பயன்படுத்தினால், அது இருக்கும் மிகவும் விலையுயர்ந்த பிழைகளைத் தவறவிடுகிறது, அவை ஒரு வரிசை முழுவதும் மட்டுமே தோன்றும்.

அதை நேர்மையாக வைத்திருத்தல்

சில பழக்கவழக்கங்கள் முகவர் கண்டறிதல்களை நம்பகமானதாக மாற்றுவதற்கான பெரும்பாலான வேலைகளைச் செய்கின்றன, மேலும் அவற்றில் எதுவும் சிக்கலானவை அல்ல.

• ஒவ்வொரு கலைப்பொருளின் மீதும் தோற்றம் (Provenance): அதை எது உருவாக்கியது, எந்தச் சூழலுடன், எந்தத் திருத்தத்திற்கு எதிராக. ஒரு கண்டறிதல் என்பது பல மாதங்களுக்குப் பிறகும் நீங்கள் மீண்டும் இயக்கக்கூடிய ஒன்றாக இருக்க வேண்டும்.
• முக்கியமான இடங்களில் தீர்மானித்தல் (Determinism): ஒரு சூழல், உருவாக்க மற்றும் இயக்க ஒரு வழி, எனவே "மறுஉருவாக்குகிறது" என்பது அது கண்டறியப்பட்ட கணினியில் மட்டுமல்லாமல், ஒவ்வொரு கணினியிலும் ஒரே பொருளைக் குறிக்கிறது.
• நெறிமுறைகள், ஸ்கிரிப்டுகள் அல்ல: எண்ணிடப்பட்ட செயல்முறைக்கு பதிலாக, எது முக்கியம், மாறிலிகள் மற்றும் உண்மையான கண்டறிதலுக்கான தரம் ஆகியவற்றை முகவர்களுக்குச் சொல்லுங்கள். அதிகமாக ஸ்கிரிப்ட் செய்யப்பட்ட முகவர்கள் அதிகமாகக் குறிப்பிடப்பட்ட சோதனைகளைப் போலவே உடைகின்றன, படிகள் அர்த்தமற்றதாக மாறிய பிறகும் அவை படிகளைத் தொடர்ந்து பின்பற்றுகின்றன. களஞ்சியச் சூழல் கோப்புகளின் ஆய்வு ஒன்றும் இதையே கண்டறிந்தது: கூடுதல் தேவைகள் பணி வெற்றியைக் குறைத்தன மற்றும் செலவை 20% க்கும் மேல் உயர்த்தின, மேலும் ஆசிரியர்கள் சூழலை குறைந்தபட்ச தேவைகளுக்கு வைத்திருக்கப் பரிந்துரைக்கின்றனர்.
• ஒரு நபர் இறுதி முடிவை எடுக்கிறார்: முகவர்கள் பரிந்துரைக்கின்றன. எது உண்மையானது, எது அறியப்பட்ட சிக்கலின் நகல், அல்லது எது எப்போது வெளியிடப்படுகிறது என்பதை அவை தீர்மானிப்பதில்லை.

இடையூறு நகர்ந்துவிட்டது

AI பாதுகாப்பு ஆராய்ச்சியாளரை மாற்றவில்லை. அது வேலையை நகர்த்தியது. கருதுகோள்களை உருவாக்குவதற்கும் அவற்றைத் துரத்துவதற்கும் முன்பு செலவிடப்பட்ட நேரம், இப்போது தரவு வழங்கியை உருவாக்குதல், பகுப்பாய்வை இயக்குதல், அறியப்பட்ட சிக்கல்களின் பட்டியலை வைத்திருத்தல் மற்றும் வெளிப்படுத்துதலைக் கையாளுதல் உள்ளிட்டவற்றை பெரிய அளவில் மதிப்பிடுவதற்குச் செல்கிறது.

இடையூறு (bottleneck) மறைந்துவிடவில்லை. அது பிழைகளைக் கண்டறிவதிலிருந்து முடிவுகளை நம்புவதற்கு நகர்ந்துள்ளது, இது அதற்கான சிறந்த இடமாகும், ஏனெனில் அங்குதான் மனிதத் தீர்ப்பு உண்மையில் முக்கியமானது. ஆனால் அது இன்னும் ஒரு இடையூறுதான், அதைத் புறக்கணிப்பதால்தான் நீங்கள் தவறான "இது நன்றாக இருக்கிறது" என்பதை அனுப்ப நேரிடும்.

இந்த வேலையைச் சாத்தியமாக்கும் நடைமுறைகள் புதியவை அல்ல. மறுஉருவாக்கக்கூடிய தோல்விகள், உண்மையான தரவு வழங்கிகள் மற்றும் கவனமான பகுப்பாய்வு ஆகியவை கடந்த பதினைந்து ஆண்டுகளில் ஃபஸ்ஸிங்கை (fuzzing) ஒரு ஆராய்ச்சித் தலைப்பிலிருந்து நிலையான நடைமுறையாக மாற்றிய அதே நடைமுறைகள்தான். கருவிகள் புதியவை. நடைமுறைகள் அல்ல.

கருவிகள் எவ்வளவு வேகமாக மாறிக்கொண்டே இருக்கின்றன என்பது ஒரு திறந்த கேள்வி. கவனமானவரும், ஒரு காலத்தில் சந்தேகவாதியுமான நிக்கோலஸ் கார்லினி (Nicholas Carlini), அதிவேக வளர்ச்சியை தீவிரமாக எடுத்துக்கொள்வது மதிப்புக்குரியது என்று வாதிடுகிறார், அதே நேரத்தில் அவர் அதில் பரந்த பிழை வரம்புகளை வைத்திருந்தாலும் கூட. உருவாக்கும் பக்கம் அவ்வளவு வேகமாக உயர்ந்தால், தீர்ப்புப் பக்கமும் அதனுடன் உயர வேண்டும், இல்லையெனில் உருவாக்கப்படுவதற்கும் உண்மையில் சரிபார்க்கப்படுவதற்கும் இடையிலான இடைவெளி விரிவடையும்.

எத்திரியம் சார்ந்திருக்கும் அமைப்புகளுக்கு, அதுதான் முக்கியமான பகுதி. முகவர்கள் நாம் கையால் செய்யக்கூடியதை விட மிக அதிகமான பகுதிகளை உள்ளடக்க அனுமதிக்கின்றன. அதற்குப் பதிலாக, நம்பிக்கையுடன் ஒலிக்கும் உரிமைக்கோரல்களின் மிகப் பெரிய குவியலில், அவை மிகவும் கவனமான தீர்ப்பைக் கேட்கின்றன. தீர்ப்புதான் உண்மையான தயாரிப்பு என்பதை நீங்கள் நினைவில் வைத்திருக்கும் வரை, இது செய்யத் தகுந்த ஒரு பரிமாற்றமாகும்.