ఎలోన్ మస్క్, స్టీవ్ వోజ్నియాక్ ఆందోళన 'ఎన్నికోని టెక్ నాయకులు' చాలా ఎక్కువ శక్తిని కలిగి ఉన్నారు

ఎలోన్ మస్క్ మరియు యాపిల్ కోఫౌండర్‌తో సహా టెక్ లీడర్‌లు మరియు కంప్యూటర్ శాస్త్రవేత్తల సమూహం పెరుగుతోంది స్టీవ్ వోజ్నియాక్ , కోసం పిలుస్తున్నారు OpenAI మరియు శిక్షణను పాజ్ చేయడానికి ఇతర కృత్రిమ మేధస్సు ప్రయోగశాలలు A.I. GPT-4 కంటే అధునాతనమైన సిస్టమ్‌లు, టెక్స్ట్ జనరేటర్ ChatGPT వెనుక ఉన్న సరికొత్త భాషా నమూనా.

ఒక లో బహిరంగ లేఖ 'పాజ్ జెయింట్ A.I. ప్రయోగాలు,” నిన్న (మార్చి 28) లాభాపేక్షలేని ఫ్యూచర్ ఆఫ్ లైఫ్ ఇన్స్టిట్యూట్, A.I ద్వారా ప్రచురించబడింది. అధునాతన A.I చుట్టూ భద్రతా ప్రోటోకాల్‌ల భాగస్వామ్య సెట్‌ను రూపొందించాలని కంపెనీలు కోరబడ్డాయి. మానవాళికి ప్రమాదాలను కలిగించే శక్తివంతమైన సాఫ్ట్‌వేర్‌లను రూపొందించడానికి ముందు అభివృద్ధి.

ఎలోన్ మస్క్, స్టీవ్ వోజ్నియాక్, 2020 అధ్యక్ష అభ్యర్థి ఆండ్రూ యాంగ్, ఇజ్రాయెల్ రచయిత యువల్ నోహ్ హరారీ, కంప్యూటర్ సైంటిస్ట్ యోషువా బెంగియో మొదలైన వారితో సహా ప్రభావవంతమైన వ్యవస్థాపకులు, విద్యావేత్తలు మరియు పెట్టుబడిదారుల నుండి ఈ లేఖ 1,000 కంటే ఎక్కువ సంతకాలను సేకరించింది.

ChatGPT విజయం సాధించింది ఒక జాతిని ప్రేరేపించింది A.I మధ్య పెద్ద మరియు చిన్న కంపెనీలు వాటి సృష్టికర్తలు కూడా అర్థం చేసుకోలేని లేదా నియంత్రించలేని శక్తివంతమైన సిస్టమ్‌లను అభివృద్ధి చేస్తాయి.

'అధునాతన AI భూమిపై జీవిత చరిత్రలో తీవ్ర మార్పును సూచిస్తుంది మరియు తగిన సంరక్షణ మరియు వనరులతో ప్రణాళిక మరియు నిర్వహించబడాలి. దురదృష్టవశాత్తు ఈ స్థాయి ప్రణాళిక, నిర్వహణ జరగడం లేదు’’ అని లేఖలో పేర్కొన్నారు.

'మనల్ని మనం ప్రశ్నించుకోవాలి: పూర్తి చేసే ఉద్యోగాలతో సహా అన్ని ఉద్యోగాలను ఆటోమేట్ చేయాలా?' అది కొనసాగింది. 'మనం మానవరహిత మనస్సులను అభివృద్ధి చేయాలా, అది చివరికి సంఖ్యను అధిగమించి, మించిపోయే, వాడుకలో లేని మరియు మన స్థానాన్ని భర్తీ చేయాలా? మన నాగరికతపై నియంత్రణ కోల్పోయే ప్రమాదం ఉందా? అలాంటి నిర్ణయాలు ఎన్నుకోబడని టెక్ లీడర్‌లకు అప్పగించకూడదు.

సాధారణ ప్రయోజన A.Iపై పెరుగుతున్న ఆందోళన

ఎ.ఐ. సిస్టమ్‌లు తరచుగా బ్లాక్-బాక్స్ టెక్నాలజీగా వర్ణించబడతాయి, ఒకసారి ప్రారంభించబడితే, అది ఎలా పని చేస్తుందో ఎవరికీ తెలియదు. చాట్‌జిపిటి వంటి కొత్త సాఫ్ట్‌వేర్‌లు అనేక మానవ విధులను నిర్వర్తించగల సామర్థ్యాన్ని కలిగి ఉన్నందున, భవిష్యత్తులో A.I గురించి భయం పెరుగుతోంది. వ్యవస్థలు తమ మానవ సృష్టికర్తలకు వ్యతిరేకంగా దూసుకుపోతున్నాయి. ఇది చాట్‌జిపిటి సృష్టికర్తతో సహా చాలా మంది పరిశ్రమ నాయకులకు ఆందోళన కలిగిస్తుంది.

'ఒక యంత్రం మానవులకు ముప్పు అని నిర్ణయించగలదా, దాని అభిరుచులు మన నుండి భిన్నమైనవి అని నిర్ధారించగలరా లేదా మన గురించి పట్టించుకోవడం మానేయగలరా?' బిల్ గేట్స్ a లో రాశారు బ్లాగ్ పోస్ట్ గత వారం. 'ఈ ప్రశ్నలు కాలక్రమేణా మరింత ఒత్తిడిని పొందుతాయి.'

కంప్యూటర్ సైన్స్ ప్రొఫెసర్ అయిన జియోఫ్రీ హింటన్ ఇలా ప్రశంసించారు. A.I యొక్క గాడ్ ఫాదర్ , ”ఇటీవల A.I. చాలా మంది ప్రజలు అనుకున్నదానికంటే వేగంగా అభివృద్ధి చెందుతోంది. 'ఇటీవలి వరకు, మేము సాధారణ ప్రయోజన A.Iని కలిగి ఉండటానికి 20 నుండి 50 సంవత్సరాల వరకు ఉంటుందని నేను అనుకున్నాను. ఇప్పుడు అది 20 సంవత్సరాలు లేదా అంతకంటే తక్కువ ఉండవచ్చని నేను భావిస్తున్నాను, ”హింటన్ CBS న్యూస్‌కి చెప్పారు వారాంతంలో.

సాధారణ ప్రయోజనం A.I. లేదా కృత్రిమ సాధారణ మేధస్సు (AGI) అనేది A.I. మెమరీ పరిమాణం లేదా వేగంపై ఎలాంటి పరిమితులతోనైనా మానవ మెదడు చేయగలిగినదంతా చేయగలిగిన వ్యవస్థలు.

కంప్యూటర్లు తమను తాము మెరుగుపరుచుకోవడానికి ఆలోచనలను సృష్టించే సామర్థ్యాన్ని చివరికి పొందడం సాధ్యమవుతుందని హింటన్ అభిప్రాయపడ్డారు. 'ఇది ఒక సమస్య... మీరు దానిని ఎలా నియంత్రిస్తారనే దాని గురించి మేము గట్టిగా ఆలోచించాలి' అని అతను CBS ఇంటర్వ్యూలో చెప్పాడు.

ఫిబ్రవరి చివరలో, OpenAI CEO సామ్ ఆల్ట్‌మాన్ రాశారు a బ్లాగ్ పోస్ట్ ప్రత్యేకంగా AGI సమస్యను పరిష్కరించడం. 'ఏదో ఒక సమయంలో, భవిష్యత్ సిస్టమ్‌లకు శిక్షణ ఇవ్వడం ప్రారంభించే ముందు స్వతంత్ర సమీక్షను పొందడం చాలా ముఖ్యం, మరియు కొత్త మోడల్‌లను రూపొందించడానికి ఉపయోగించే కంప్యూట్ వృద్ధి రేటును పరిమితం చేయడానికి అంగీకరించే అత్యంత అధునాతన ప్రయత్నాల కోసం' అని ఆల్ట్‌మాన్ పోస్ట్‌లో తెలిపారు.

ఫ్యూచర్ ఆఫ్ లైఫ్ ఇన్స్టిట్యూట్ సందేశానికి మద్దతుదారులు ఆ పాయింట్ ఇప్పుడు అని నమ్ముతారు. “ఎ.ఐ. అధునాతన A.I కోసం భాగస్వామ్య భద్రతా ప్రోటోకాల్‌లను అభివృద్ధి చేయడానికి పరిశోధకులు ఈ సమయాన్ని ఉపయోగించాలి. అభివృద్ధి’’ అని బహిరంగ లేఖలో పేర్కొన్నారు. “దీని అర్థం A.Iలో విరామం అని కాదు. సాధారణంగా అభివృద్ధి, కేవలం ప్రమాదకరమైన రేసు నుండి ఆవిర్భవించే సామర్థ్యాలతో ఎప్పుడూ పెద్దగా ఊహించలేని బ్లాక్-బాక్స్ మోడల్‌ల వైపు అడుగులు వేయడమే.

ది ఫ్యూచర్ ఆఫ్ లైఫ్ ఇన్స్టిట్యూట్ అనేది కేంబ్రిడ్జ్, మాస్‌లో ఉన్న లాభాపేక్ష రహిత సంస్థ. అధునాతన A.I యొక్క నైతిక మరియు బాధ్యతాయుతమైన వినియోగాన్ని ప్రోత్సహిస్తుంది. మస్క్ మరియు డీప్‌మైండ్ సహ వ్యవస్థాపకులు A.I సంతకం చేసిన 2018 ప్రతిజ్ఞ వెనుక సంస్థ ఉంది. Google యాజమాన్యంలోని ల్యాబ్, యుద్ధ వినియోగం కోసం రోబోట్ కిల్లర్‌లను ఎప్పటికీ అభివృద్ధి చేయదని వాగ్దానం చేసింది.