AI மாயத்தோற்றம் மற்றும் பாரபட்சம் பற்றிய அதிகரித்து வரும் கவலைகள்: அபோரியாவின் 2024 அறிக்கை, தொழில் தரநிலைகளுக்கான அவசரத் தேவையை எடுத்துக்காட்டுகிறது

A அபோரியாவின் சமீபத்திய அறிக்கை, AI கட்டுப்பாட்டு இயங்குதளத் துறையில் முன்னணியில் உள்ள, செயற்கை நுண்ணறிவு மற்றும் இயந்திர கற்றல் (AI & ML) துறையில் சில திடுக்கிடும் கண்டுபிடிப்புகளை வெளிச்சத்திற்கு கொண்டு வந்துள்ளது. "2024 AI & ML அறிக்கை: மாடல்கள் மற்றும் தீர்வுகளின் பரிணாமம்" என்ற தலைப்பில், Aporia நடத்திய கணக்கெடுப்பு, AI மற்றும் பெரிய மொழி மாதிரிகளில் (LLMs) வளர்ந்து வரும் மாயத்தோற்றங்கள் மற்றும் சார்புகளின் போக்கை சுட்டிக்காட்டுகிறது, இது வேகமாக முன்னேறும் ஒரு தொழில்துறைக்கு ஒரு முக்கிய சவாலாக உள்ளது. முதிர்ச்சி.

AI மாயத்தோற்றங்கள் உருவாக்கும் நிகழ்வுகளைக் குறிப்பிடவும் உருவாக்கும் AI மாதிரிகள் தவறான, முட்டாள்தனமான அல்லது யதார்த்தத்திலிருந்து துண்டிக்கப்பட்ட வெளியீடுகளை உருவாக்கவும். இந்த மாயத்தோற்றங்கள் சிறிய பிழைகள் முதல் குறிப்பிடத்தக்க பிழைகள் வரை இருக்கலாம், இதில் பக்கச்சார்பான அல்லது தீங்கு விளைவிக்கும் உள்ளடக்கத்தை உருவாக்குவது உட்பட.

AI மாயத்தோற்றங்களின் விளைவுகள் குறிப்பிடத்தக்கதாக இருக்கலாம், குறிப்பாக இந்த மாதிரிகள் வணிகம் மற்றும் சமூகத்தின் பல்வேறு அம்சங்களில் பெருகிய முறையில் ஒருங்கிணைக்கப்படுகின்றன. எடுத்துக்காட்டாக, AI-உருவாக்கப்பட்ட தகவல்களில் உள்ள துல்லியமின்மை தவறான தகவல்களுக்கு வழிவகுக்கும், அதே சமயம் பக்கச்சார்பான உள்ளடக்கம் ஒரே மாதிரியான அல்லது நியாயமற்ற நடைமுறைகளை நிலைநிறுத்தலாம். உடல்நலம், நிதி அல்லது சட்ட ஆலோசனை போன்ற முக்கியமான பயன்பாடுகளில், இத்தகைய பிழைகள் தீவிரமான தாக்கங்களை ஏற்படுத்தலாம், முடிவுகள் மற்றும் விளைவுகளை பாதிக்கலாம்.

ஆய்வின் கண்டுபிடிப்புகள், உற்பத்தி மாதிரிகளை விழிப்புடன் கண்காணித்தல் மற்றும் கவனிப்பதன் அவசியத்தை வலியுறுத்துகின்றன.

அபோரியாவின் கணக்கெடுப்பில் வட அமெரிக்கா மற்றும் யுனைடெட் கிங்டத்தை தளமாகக் கொண்ட 1,000 இயந்திர கற்றல் நிபுணர்களின் பதில்கள் அடங்கும். இந்த நபர்கள் நிதி, சுகாதாரம், பயணம், காப்பீடு, மென்பொருள் மற்றும் சில்லறை வணிகம் போன்ற துறைகளில் 500 முதல் 7,000 பணியாளர்கள் வரையிலான நிறுவனங்களில் பணிபுரிகின்றனர். கண்டுபிடிப்புகள் ML உற்பத்தித் தலைவர்கள் எதிர்கொள்ளும் சவால்கள் மற்றும் வாய்ப்புகள் இரண்டையும் அடிக்கோடிட்டுக் காட்டுகின்றன, செயல்திறன் மற்றும் மதிப்பு உருவாக்கத்திற்கான AI தேர்வுமுறையின் முக்கிய பங்கை வெளிச்சம் போட்டுக் காட்டுகிறது.

முக்கிய நுண்ணறிவு அறிக்கையில் அடங்கும்:

1. செயல்பாட்டு சவால்களின் பரவல்: 93% இயந்திர கற்றல் பொறியாளர்கள் தினசரி அல்லது வாரந்தோறும் உற்பத்தி மாதிரிகளில் சிக்கல்களை எதிர்கொள்வதாக தெரிவிக்கின்றனர். சுமூகமான செயல்பாடுகளை உறுதிசெய்ய பயனுள்ள கண்காணிப்பு மற்றும் கட்டுப்பாட்டு கருவிகளின் முக்கியமான தேவையை இந்த குறிப்பிடத்தக்க புள்ளிவிவரம் அடிக்கோடிட்டுக் காட்டுகிறது.
2. AI மாயத்தோற்றங்களின் நிகழ்வு: பெரிய மொழி மாதிரிகள் மற்றும் உருவாக்கும் AI அறிக்கையுடன் பணிபுரியும் 89% பொறியாளர்கள் இந்த மாடல்களில் மாயத்தோற்றத்தை அனுபவிக்கின்றனர். இந்த மாயத்தோற்றங்கள் உண்மைப் பிழைகள், சார்புகள் அல்லது தீங்கு விளைவிக்கக்கூடிய உள்ளடக்கமாக வெளிப்படுகின்றன.
3. சார்பு தணிப்பில் கவனம் செலுத்துங்கள்: சார்புத் தரவைக் கண்டறிவதில் தடைகள் இருந்தபோதிலும், போதுமான கண்காணிப்புக் கருவிகள் இல்லாவிட்டாலும், கணக்கெடுப்பில் பதிலளித்தவர்களில் குறிப்பிடத்தக்க 83% பேர் AI திட்டங்களில் சார்புநிலையைக் கண்காணிப்பதன் முக்கியத்துவத்தை வலியுறுத்துகின்றனர்.
4. நிகழ்நேர கண்காணிப்பின் முக்கியத்துவம்கணிசமான 88% இயந்திரக் கற்றல் வல்லுநர்கள், உற்பத்தி மாதிரிகளில் உள்ள சிக்கல்களைக் கண்டறிவதற்கு நிகழ்நேரக் கண்காணிப்பு அவசியம் என்று நம்புகின்றனர், இது தானியங்கு கண்காணிப்பு கருவிகள் இல்லாததால் அனைத்து நிறுவனங்களிலும் இல்லை.
5. வளர்ச்சியில் வள முதலீடு: சராசரியாக, நிறுவனங்கள் உற்பத்தியைக் கண்காணிப்பதற்கான கருவிகள் மற்றும் டாஷ்போர்டுகளை உருவாக்குவதற்கு சராசரியாக நான்கு மாதங்கள் முதலீடு செய்கின்றன, இது போன்ற முதலீடுகளின் செயல்திறன் மற்றும் செலவு-செயல்திறன் தொடர்பான சாத்தியமான கவலைகளை எடுத்துக்காட்டுகிறது.

"எங்கள் அறிக்கை தொழில்துறையினரிடையே தெளிவான ஒருமித்த கருத்தைக் காட்டுகிறது, AI தயாரிப்புகள் விரைவான வேகத்தில் பயன்படுத்தப்படுகின்றன, மேலும் இந்த ML மாதிரிகள் கண்காணிக்கப்படாவிட்டால் விளைவுகள் இருக்கும்" அபோரியாவின் தலைமை நிர்வாக அதிகாரி லிரன் ஹாசன் கூறினார். "இந்தக் கருவிகளுக்குப் பின்னால் இருக்கும் பொறியாளர்கள் பேசினர்– தொழில்நுட்பத்தில் சிக்கல்கள் உள்ளன, அவற்றை சரிசெய்ய முடியும். ஆனால் நிறுவனங்களும் நுகர்வோரும் சிறந்த தயாரிப்பைப் பெறுகிறார்கள் என்பதை உறுதிப்படுத்த சரியான கவனிப்பு கருவிகள் தேவை, மாயத்தோற்றங்கள் மற்றும் சார்பு இல்லாமல்.

அப்போரியா, இயந்திர கற்றல் மூலம் இயக்கப்படும் AI தயாரிப்புகளின் செயல்திறனை மேம்படுத்த உறுதிபூண்டுள்ளது, MLOps சவால்களை எதிர்கொள்கிறது மற்றும் பொறுப்பான AI நடைமுறைகளுக்கு வாதிடுகிறது. நிறுவனத்தின் வாடிக்கையாளர்களை மையமாகக் கொண்ட அணுகுமுறை மற்றும் பயனர் கருத்துகளின் ஒருங்கிணைப்பு ஆகியவை பயனர் அனுபவத்தை மேம்படுத்தவும், உற்பத்தி மாதிரிகளின் விரிவாக்கத்தை ஆதரிக்கவும் மற்றும் மாயத்தோற்றங்களை அகற்றவும் வலுவான கருவிகள் மற்றும் அம்சங்களை உருவாக்க வழிவகுத்தன.

அபோரியாவின் முழு அறிக்கை இந்த கண்டுபிடிப்புகள் மற்றும் AI துறையில் அவற்றின் தாக்கங்கள் பற்றிய ஆழமான பார்வையை வழங்குகிறது. மேலும் ஆராய, பார்வையிடவும் அபோரியாவின் ஆய்வு அறிக்கை.