AI Danger Warning: ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) అభివృద్ధి వేగంపై మరోసారి తీవ్ర ఆందోళనలు వ్యక్తమవుతున్నాయి. అమెరికాకు చెందిన ప్రముఖ AI పరిశోధనా సంస్థ Anthropicలో పనిచేసిన పరిశోధకుడు జాకబ్ కాక్సన్ (Jacob Coxon) సంస్థకు రాజీనామా చేస్తూ సంచలన వ్యాఖ్యలు చేశారు. AI సంస్థలు సెల్ఫ్-ఇంప్రూవింగ్ సూపర్ ఇంటెలిజెన్స్ వైపు అత్యంత వేగంగా దూసుకెళ్తున్నాయని, ఈ పోటీ మానవాళికి తీవ్రమైన ప్రమాదాన్ని కలిగించే అవకాశం ఉందని హెచ్చరించారు.
Anthropicకు జాకబ్ కాక్సన్ రాజీనామా
27 ఏళ్ల జాకబ్ కాక్సన్ గత మూడు సంవత్సరాల్లో OpenAI, Anthropic సంస్థల్లో AI మోడళ్ల ప్రీ-ట్రైనింగ్కు సంబంధించిన పరిశోధనలో పనిచేశారు. Anthropic నుంచి తప్పుకుంటున్నట్లు సోషల్ మీడియా వేదిక Xలో ప్రకటించిన ఆయన.. రెండు సంస్థలూ AI అభివృద్ధిలో తగినంత బాధ్యతగా వ్యవహరించడం లేదని ఆరోపించారు. AI సంస్థలు మరింత శక్తివంతమైన, తమను తాము మెరుగుపరుచుకునే సూపర్ ఇంటెలిజెంట్ వ్యవస్థలను రూపొందించే పోటీలో ఉన్నాయని పేర్కొన్నారు. ఈ పరిస్థితిని “మన ప్రాణాలతో జూదం ఆడుతున్నట్లుగా” అభివర్ణించారు.
“AI శక్తిని తక్కువ అంచనా వేయొద్దు”
అభివృద్ధి చెందుతున్న AI వ్యవస్థల సామర్థ్యాన్ని తక్కువగా అంచనా వేయకూడదని కాక్సన్ హెచ్చరించారు. భవిష్యత్తులో సూపర్హ్యూమన్ స్థాయికి చేరుకునే AI వ్యవస్థలు సైబర్ సిస్టమ్లను హ్యాక్ చేయడం, వివిధ రంగాల్లో వేగంగా మార్పులు తీసుకురావడం, భారీ స్థాయిలో వనరులను స్వయంప్రతిపత్తితో పొందడం వంటి సామర్థ్యాలను సాధించవచ్చని అభిప్రాయపడ్డారు. అలాంటి వ్యవస్థలు అదుపు తప్పితే మానవాళికి తీవ్ర పరిణామాలు ఎదురయ్యే అవకాశం ఉందని ఆందోళన వ్యక్తం చేశారు.
“ఈ దశాబ్దం చివరికి మానవాళికి ప్రమాదం రావచ్చు”
కాక్సన్ చేసిన అత్యంత సంచలన వ్యాఖ్యల్లో ఒకటి.. AI అభివృద్ధిలో పనిచేస్తున్న కొందరు వ్యక్తులు ఈ దశాబ్దం ముగిసేలోపు AI మానవాళికి ప్రాణాంతక ముప్పుగా మారే అవకాశాన్ని నిజంగానే పరిగణిస్తున్నారని చెప్పడం. అయితే ఇది ఖచ్చితంగా జరగబోయే పరిణామమని ఆయన శాస్త్రీయంగా నిర్ధారించారని అర్థం కాదు. ఇది అత్యంత శక్తివంతమైన AI వ్యవస్థల వల్ల సంభవించే ప్రమాదంపై వ్యక్తం చేసిన తీవ్ర ఆందోళన. ఇతర నివేదికలు కూడా ఈ వ్యాఖ్యలను అదే సందర్భంలో ప్రస్తావించాయి.
సీనియర్ AI పరిశోధకులు కూడా ఆందోళనలో ఉన్నారా?
కాక్సన్ ప్రకారం.. AI రంగంలోని కొందరు సీనియర్ పరిశోధకులకు కూడా అత్యంత శక్తివంతమైన AI వ్యవస్థల వల్ల మానవాళికి ఎదురయ్యే ప్రమాదాలపై ఆందోళన ఉంది. ఈ భయాలు కేవలం పబ్లిసిటీ కోసం చేస్తున్న వ్యాఖ్యలు కాదని ఆయన వాదించారు. Anthropicలో Alignment Science Leadగా ఉన్న Evan Hubinger కూడా కాక్సన్ వ్యాఖ్యలకు స్పందించారు. AI మానవాళిని అంతం చేసే అవకాశం ఉందని తాను, తన సహచరులు నిజంగానే పరిగణిస్తున్నామని తెలిపారు. వచ్చే దశాబ్దంలో అలాంటి ప్రమాదానికి తన అంచనా 10 శాతానికి పైగా ఉందని కూడా పేర్కొన్నారు. అయితే ప్రస్తుత AI మోడళ్ల వల్ల ప్రమాదం తక్కువగా ఉందని, తన ఆందోళన ప్రధానంగా భవిష్యత్తులో వచ్చే సూపర్ఇంటెలిజెన్స్, ప్రత్యేకంగా స్వయంగా మెరుగుపడే AI వ్యవస్థలపై ఉందని వివరించారు.
Anthropicపై కాక్సన్ ఆరోపణలు
Anthropic AI భద్రతకు ప్రాధాన్యత ఇస్తున్న సంస్థగా పేరున్నప్పటికీ, కాక్సన్ మాత్రం అత్యంత శక్తివంతమైన AI అభివృద్ధి కోసం జరుగుతున్న పోటీ భద్రతా చర్యలపై ఒత్తిడి పెంచుతోందని అభిప్రాయపడ్డారు. ఇతర సంస్థలు ముందుకు వెళ్లే ప్రమాదం ఉందనే కారణంతో AI అభివృద్ధిని ఆపలేని పరిస్థితి ఏర్పడిందని వాదించారు. ఈ పోటీని నియంత్రించేందుకు AI కంపెనీల మధ్య సమన్వయం, వేగ నియంత్రణ వంటి చర్యలు అవసరమని సూచించారు.
AI అభివృద్ధిని తాత్కాలికంగా ఆపాలా?
AI సామర్థ్యాలను మరింత పెంచే ప్రయత్నాలపై కొంతకాలం తాత్కాలిక విరామం లేదా AI ల్యాబ్ల మధ్య పరస్పర ఒప్పందాలు అవసరం కావచ్చని కాక్సన్ అభిప్రాయపడ్డారు. AI రంగంలో పోటీ అంతర్జాతీయ స్థాయిలో కొనసాగుతున్న నేపథ్యంలో ఇలాంటి చర్యలు అమలు చేయడం ఎంతవరకు సాధ్యమనే ప్రశ్న కూడా ఉంది.
భయం నిజమా.. లేక భవిష్యత్తుపై అంచనా మాత్రమేనా?
AI మానవాళిని అంతం చేస్తుందనే విషయం ప్రస్తుతం నిరూపితమైన వాస్తవం కాదు. ఇది AI భద్రతా రంగంలోని కొందరు పరిశోధకులు వ్యక్తం చేస్తున్న అత్యంత తీవ్రమైన భవిష్యత్ ప్రమాద అంచనా. అయితే AI సామర్థ్యాలు వేగంగా పెరుగుతున్న నేపథ్యంలో వాటిని సురక్షితంగా నియంత్రించడం, మానవ ప్రయోజనాలకు అనుగుణంగా ఉంచడం ఎలా అనే ప్రశ్న మాత్రం AI రంగంలో కీలక చర్చగా మారుతోంది. జాకబ్ కాక్సన్ రాజీనామా, Anthropicలోనే పనిచేస్తున్న పరిశోధకుడి స్పందన.. AI భద్రతపై సాంకేతిక రంగంలో కొనసాగుతున్న అంతర్గత చర్చ ఎంత తీవ్రమైందో మరోసారి బయటపెట్టాయి.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026