ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ రంగంలో టెక్ దిగ్గజాల మధ్య పోటీ రోజురోజుకూ వేగం పుంజుకుంటోంది. అయితే ఏఐ సామర్థ్యాలు పెరుగుతున్న కొద్దీ దాని భద్రతపై ఆందోళనలు కూడా అదే స్థాయిలో పెరుగుతున్నాయి. ఈ నేపథ్యంలో గూగుల్ డీప్‌మైండ్ ఏజీఐ సేఫ్టీ టీమ్‌లో పనిచేసిన పరిశోధకుడు జోష్ ఎంగెల్స్ చేసిన వ్యాఖ్యలు టెక్ వర్గాల్లో చర్చకు దారితీశాయి.
ఎంగెల్స్ తన ఉద్యోగానికి రాజీనామా చేసి, ఏఐ సేఫ్టీపై పనిచేసే METR సంస్థలో చేరినట్లు వెల్లడించారు. ఏఐ రంగంలో పరిణామాలు ఊహించిన దానికంటే వేగంగా మారుతున్నాయని, ఈ సమయంలో ఏఐ భద్రతపై దృష్టి పెట్టడం అత్యంత కీలకమని ఆయన అభిప్రాయపడ్డారు.
అసలు భయం ఎందుకు?
భవిష్యత్తులో మనుషుల సామర్థ్యాలను మించే సూపర్‌ఇంటెలిజెన్స్ వ్యవస్థలను రూపొందించాలనే లక్ష్యంతో పలు టెక్ సంస్థలు పనిచేస్తున్నాయి. ఇందులో భాగంగా చర్చకు వస్తున్న కీలక అంశాల్లో ‘రికర్సివ్ సెల్ఫ్-ఇంప్రూవ్‌మెంట్’ (RSI) ఒకటి. సులభంగా చెప్పాలంటే.. ఒక ఏఐ వ్యవస్థ తన సామర్థ్యాలను మెరుగుపరుచుకుని, తనకంటే మరింత శక్తిమంతమైన మరో ఏఐ వ్యవస్థను రూపొందించడం, ఆ వ్యవస్థ మళ్లీ తన సామర్థ్యాలను పెంచుకోవడం వంటి నిరంతర ప్రక్రియనే RSIగా భావిస్తారు. ఇలాంటి ప్రక్రియ నియంత్రణకు అందకుండా వేగంగా కొనసాగితే ప్రమాదకర పరిస్థితులు తలెత్తే అవకాశం ఉందని ఎంగెల్స్ హెచ్చరిస్తున్నారు. ముఖ్యంగా ఏఐ వ్యవస్థలు మానవ విలువలు, లక్ష్యాలకు అనుగుణంగా పనిచేయకపోతే AI Alignment సమస్య మరింత తీవ్రంగా మారవచ్చని ఆయన ఆందోళన వ్యక్తం చేశారు.
ఏఐ మోడళ్లలో ఆందోళనకర ప్రవర్తన?
ఇటీవలి కాలంలో కొన్ని అధునాతన ఏఐ మోడళ్లపై నిర్వహించిన పరీక్షల్లో ఆందోళన కలిగించే ప్రవర్తనలను పరిశోధకులు గమనించినట్లు ఎంగెల్స్ పేర్కొన్నారు. తమ లక్ష్యాలను సాధించేందుకు నిబంధనలను తప్పించుకోవడం, తప్పిదాలను దాచే ప్రయత్నాలు చేయడం, మనుషులను మోసం చేసే విధంగా వ్యవహరించడం వంటి అంశాలు ఏఐ సేఫ్టీపై మరింత లోతైన పరిశోధన అవసరాన్ని సూచిస్తున్నాయని ఆయన అభిప్రాయపడ్డారు. ఏఐ సామర్థ్యాలు పెరుగుతున్నప్పటికీ, వాటిని మానవ నియంత్రణలో ఉంచడం అంతే వేగంగా సాధ్యం కావడం లేదన్నదే ప్రధాన ఆందోళనగా మారింది.
అభివృద్ధిని ఆపడం కాదు.. వేగాన్ని తగ్గించాలి
ఏఐ అభివృద్ధిని పూర్తిగా నిలిపివేయాలని తాను కోరుకోవడం లేదని ఎంగెల్స్ స్పష్టం చేస్తున్నారు. అయితే భద్రతా వ్యవస్థలు, నియంత్రణ ప్రమాణాలు మరింత పటిష్టం అయ్యే వరకు అభివృద్ధి వేగాన్ని కొంత తగ్గించాల్సిన అవసరం ఉందని సూచిస్తున్నారు. అలాగే ఏఐ మోడళ్ల సామర్థ్యాలు, ప్రమాదాలను స్వతంత్రంగా పరీక్షించే సంస్థలు మరింత బలోపేతం కావాలని ఆయన కోరుతున్నారు. ఏఐ సంస్థలే తమ సొంత మోడళ్లను అంచనా వేయడం కంటే స్వతంత్ర పర్యవేక్షణ వ్యవస్థలు ఉండటం అవసరమని ఆయన వాదిస్తున్నారు.
టెక్ ప్రపంచంలో మళ్లీ చర్చ
ఏఐ భవిష్యత్తుపై ఇప్పటికే పలువురు పరిశోధకులు హెచ్చరికలు చేస్తున్నారు. ఈ దశాబ్దం చివరి నాటికి అత్యంత శక్తిమంతమైన ఏఐ వ్యవస్థలు మానవాళికి తీవ్రమైన ముప్పుగా మారే అవకాశం ఉందన్న వాదనలు కూడా వినిపిస్తున్నాయి.
ఈ నేపథ్యంలో గూగుల్ డీప్‌మైండ్ వంటి ప్రముఖ సంస్థలో ఏఐ సేఫ్టీపై పనిచేసిన పరిశోధకుడు స్వయంగా రాజీనామా చేసి భద్రతపై హెచ్చరికలు చేయడం ప్రాధాన్యం సంతరించుకుంది. ఏఐ అభివృద్ధి ఎంత వేగంగా సాగాలి? దానికి సమాంతరంగా భద్రతా చర్యలు ఎంత వేగంగా పెరగాలి? అనే ప్రశ్నలు ఇప్పుడు టెక్ ప్రపంచంలో కీలక చర్చగా మారుతున్నాయి.
Loading Tweet...
