சமூக ஊடக தளங்களில், குறிப்பாக டிக்டாக் போன்றவற்றில், ஏஐ உருவாக்கிய வீடியோக்கள் நிரூபிக்கப்படாத சுகாதாரப் பொருட்கள் மற்றும் பாலியல் சிகிச்சைகளை விற்பனை செய்ய பெருமளவில் பரவியுள்ளன. இது, பாதுகாப்பற்ற நுகர்வோர்களை ஏமாற்றும் நோக்கில் உருவாக்கப்பட்ட மோசடி நிறைந்த ஆன்லைன் சூழலை உருவாக்கியுள்ளது என நிபுணர்கள் எச்சரிக்கின்றனர்.
கார்னெல் டெக் ஆராய்ச்சியாளர்கள், டிக்டாக் தளத்தில் 'ஏஐ டாக்டர்' அவதாரங்களில் சந்தேகத்திற்கிடமான பாலியல் சிகிச்சைகளை விளம்பரப்படுத்தும் வீடியோக்கள் பெருகி வருவதை பதிவு செய்துள்ளனர். இந்த வீடியோக்களில் பெரும்பாலும் தசைபிடித்த ஆண்கள் அல்லது ஏஐ உருவாக்கிய நபர்கள், உள்ளடக்க கண்காணிப்பைத் தாண்டும் வகையில் மறைமுகமான மொழியைப் பயன்படுத்தி, மிகைப்படுத்தப்பட்ட அல்லது முற்றிலும் பொய்யான வாதங்களுடன் கூடுதல் பொருட்களை வாங்க ஊக்குவிக்கின்றனர்.
இதைவிட ஆபத்தானது, வேகமாக வளர்ந்து வரும் ஏஐ கருவிகள் பிரபலங்கள் மற்றும் பொதுமக்களை போலவே தோன்றும் டீப்ஃபேக் வீடியோக்களை உருவாக்கும் திறனை பெற்றுள்ளன. டீப்ஃபேக் கண்டறிதலில் சிறப்பு பெற்ற ரெசெம்பிள் ஏஐ என்ற பே ஏரியா நிறுவனம், அந்தோனி ஃபாஉசி, ராபர்ட் டி நிரோ, அமாண்டா ஸெய்ஃப்ரிட் போன்ற பிரபலங்கள் நிரூபிக்கப்படாத சிகிச்சைகளை ஆதரிப்பது போல தோன்றும் பல வீடியோக்களை கண்டறிந்துள்ளது. இந்த வீடியோக்கள், ஏற்கனவே உள்ள உள்ளடக்கங்களை ஏஐ உருவாக்கிய குரல் மற்றும் மேம்பட்ட உதடுச்செயலாக்கம் மூலம் மாற்றி உருவாக்கப்படுகின்றன.
"இந்த உதாரணத்தில் காண்பது போல, தவறான ஏஐ உருவாக்கிய உள்ளடக்கம் மிகைப்படுத்தப்பட்ட அல்லது நிரூபிக்கப்படாத வாதங்களுடன் கூடுதல் பொருட்களை சந்தைப்படுத்த பயன்படுத்தப்படுகிறது. இது நுகர்வோரின் சுகாதாரத்தை ஆபத்தில் ஆழ்த்தும் அபாயத்தை ஏற்படுத்துகிறது," என ரெசெம்பிள் ஏஐ நிறுவனத்தின் தலைமை நிர்வாக அதிகாரி ஜொஹைப் அக்மத் கூறுகிறார்.
இந்த வளர்ந்து வரும் அபாயத்திற்கு எதிராக, அமெரிக்க கூட்டாட்சி வர்த்தக ஆணையம் (FTC) ஏஐ மூலம் உருவாக்கப்படும் போலி நபர் மோசடிகளை குறிவைக்கும் புதிய விதிமுறைகளை முன்மொழிந்துள்ளது. 2024 பிப்ரவரியில், FTC, வணிகத்தில் நபர்களை போலியாக உருவாக்குவதைத் தடை செய்யும் விதிமுறைகளை முன்வைத்து, இப்படியான மோசடிகளில் பயன்படுத்தப்படும் ஏஐ கருவிகளை வழங்கும் தளங்களுக்கும் பொறுப்பு விதிக்க வாய்ப்பு உள்ளதாக அறிவித்தது.
"மோசடிக்காரர்கள் ஏஐ கருவிகளை பயன்படுத்தி நபர்களை மிக நுணுக்கமாகவும், பரவலாகவும் போலியாக உருவாக்குகிறார்கள். குரல் நகல் மற்றும் ஏஐ சார்ந்த மோசடிகள் அதிகரிக்கும் நிலையில், அமெரிக்கர்களை போலி நபர் மோசடிகளில் இருந்து பாதுகாப்பது இப்போது மிக முக்கியமானதாக உள்ளது," என FTC தலைவர் லினா எம். கான் தெரிவித்தார்.
குறுகிய வடிவ ஏஐ வீடியோக்கள் வேகமாக உருவாக்கப்படுவதால் உள்ளடக்க கண்காணிப்பில் தனித்துவமான சவால்கள் உருவாகின்றன. சந்தேகத்திற்கிடமான உள்ளடக்கங்களை தளங்கள் நீக்கிய பிறகும், அதேபோன்ற புதிய வீடியோக்கள் விரைவில் மீண்டும் தோன்றுகின்றன. இது 'வெக்-அ-மோல்' (Whack-a-mole) நிலையை உருவாக்குகிறது; எனவே, அதிக நுட்பமான கண்டறிதல் கருவிகள் மற்றும் புதுமையான ஒழுங்குமுறை அணுகுமுறைகள் தேவைப்படுகின்றன என ஆராய்ச்சியாளர்கள் கூறுகின்றனர்.