2020 చివరలో, డారియో అమోడీ OpenAIలో ఇంజనీర్‌గా తన పాత్రను వదిలివేయాలని నిర్ణయించుకున్నాడు. అతను తన స్వంత కంపెనీని ప్రారంభించాలని అనుకున్నాడు, A.Iని నిర్మించాలనే లక్ష్యంతో. వ్యవస్థలు శక్తివంతమైనవి మరియు తెలివైనవి మాత్రమే కాకుండా మానవ విలువలతో కూడి ఉంటాయి. GPT-2 మరియు GPT-3 అభివృద్ధికి నాయకత్వం వహించిన Amodei, ఈరోజు ChatGPTని శక్తివంతం చేసే పెద్ద భాషా నమూనా యొక్క పూర్వగాములు, గణన శక్తి మరియు శిక్షణా సాంకేతికతలలో ఇటీవలి పురోగతులు A.Iని తయారు చేయడం లేదని భావించారు. వ్యవస్థలు సురక్షితమైనవి. దానిని సాధించడానికి, అతను వేరే పద్ధతి అవసరం అనుకున్నాడు.
కేవలం రెండు సంవత్సరాలలో, Amodei యొక్క కంపెనీ, Anthropic, .5 బిలియన్ల నిధులను సేకరించింది మరియు ఇటీవల బిలియన్ల విలువ , మధ్య మేకింగ్ అత్యధిక విలువ కలిగిన A.I. స్టార్టప్‌లు ఈ ప్రపంచంలో. దీని ప్రధాన ఉత్పత్తి క్లాడ్, ChatGPT లాంటి A.I. చాట్‌బాట్ జనవరిలో విడుదలైంది. ఈ నెల ప్రారంభంలో, ఆంత్రోపిక్ క్లాడ్ 2ను విడుదల చేసింది, ఇది మరింత సూక్ష్మమైన తార్కికంతో సుదీర్ఘ ప్రతిస్పందనలను కలిగి ఉన్న కొత్త వెర్షన్.
మనకు సురక్షితమైన A.I ఎందుకు అవసరం నమూనాలు
భాషా నమూనాలలో పురోగతిని చర్చిస్తున్నప్పుడు రాకెట్ల సారూప్యతను Amodei ఇష్టపడ్డారు: డేటా మరియు గణన శక్తి ఇంధనం మరియు ఇంజిన్, మరియు భద్రతా సమస్య అంతరిక్ష నౌకను నడిపించడం లాంటిది. శక్తివంతమైన ఇంజన్ మరియు చాలా ఇంధనం పెద్ద స్పేస్‌షిప్‌ను అంతరిక్షంలోకి పంపగలవు, అయితే అవి ఓడను సరైన దిశలో నడిపించడానికి చాలా తక్కువ చేస్తాయి. అదే తర్కం శిక్షణ A.Iకి వర్తిస్తుంది. వ్యవస్థలు.
“మీరు ఒక పెద్ద టెక్స్ట్ కార్పస్ నుండి మోడల్‌కు శిక్షణ ఇస్తే, మీరు ఈ చాలా తెలివైన, చాలా పరిజ్ఞానం ఉన్న విషయంగా వర్ణించవచ్చు, ఇది రూపం లేనిది, ప్రపంచం గురించి ప్రత్యేక దృష్టికోణం లేదు, దానికి బదులుగా ఒక విషయం చెప్పడానికి ప్రత్యేక కారణాలు లేవు. మరొకటి, ”అమోడీ నిన్న (జూలై 13) చికాగోలో జరిగిన అట్లాంటిక్ ప్రోగ్రెస్ సమ్మిట్‌లో ఫైర్‌సైడ్ చాట్ సందర్భంగా చెప్పారు.
రివర్స్ కాలర్ ఐడి లుకప్ ఉచితం
A.I కలిగి సాంకేతికత యొక్క ప్రమాదాలు దాని సామర్థ్యాలతో పాటు పెరుగుతున్నందున మానవ విలువలను అర్థం చేసుకునే వ్యవస్థలు చాలా ముఖ్యమైనవి.
అల్వలీద్ బిన్ తలాల్ ఫాక్స్ వార్తలు
ChatGPT మరియు సారూప్య సాధనాల డెవలపర్‌లు మరియు వినియోగదారులు కొన్నిసార్లు వాస్తవంగా సరికాని లేదా దుర్మార్గపు సమాధానాలను రూపొందించగల చాట్‌బాట్‌ల సామర్థ్యం గురించి ఇప్పటికే ఆందోళన చెందుతున్నారు. కానీ కొన్ని సంవత్సరాలలో, A.I. వ్యవస్థలు మరింత నమ్మదగిన తప్పుడు కథనాలను రూపొందించేంత స్మార్ట్‌గా మారడమే కాకుండా సైన్స్ మరియు బయాలజీ వంటి తీవ్రమైన అంశాలలో విషయాలను తయారు చేయగలవు.
'మేము రెండు మూడు సంవత్సరాలలో, సైన్స్ మరియు ఇంజనీరింగ్ యొక్క విస్తృత రంగాలలో మోడల్స్ సృజనాత్మక పనులను చేయగల స్థితికి చేరుకుంటున్నాము. ఇది జీవశాస్త్రం యొక్క దుర్వినియోగం లేదా నిరోధిత అణు పదార్థాల దుర్వినియోగం కావచ్చు, ”అమోడీ చెప్పారు. 'మేము చాలా ముందుకు చూడాలి మరియు ఈ ప్రమాదాలను ఎదుర్కోవాలి.'
ఆంత్రోపిక్ యొక్క 'రాజ్యాంగ A.I.' పద్ధతి
ఎ.ఐ. ఇది తరచుగా 'బ్లాక్ బాక్స్' సాంకేతికతగా వర్ణించబడింది, ఇక్కడ అది ఎలా పని చేస్తుందో ఎవరికీ తెలియదు. కానీ ఆంత్రోపిక్ A.Iని నిర్మించడానికి ప్రయత్నిస్తోంది. మానవులు అర్థం చేసుకోగల మరియు నియంత్రించగల వ్యవస్థలు. దాని విధానాన్ని అమోడీ అంటారు రాజ్యాంగ A.I.
పరిశ్రమ-ప్రామాణిక శిక్షణా పద్ధతి వలె కాకుండా, చాట్‌బాట్‌లను మెరుగుపరచడానికి వాటి నుండి హానికరమైన అవుట్‌పుట్‌లను గుర్తించడానికి మరియు లేబుల్ చేయడానికి మానవ జోక్యం ఉంటుంది, రాజ్యాంగ A.I. స్వీయ-అభివృద్ధి ద్వారా శిక్షణ నమూనాలపై దృష్టి పెడుతుంది. ఏదేమైనా, ఈ పద్ధతికి 'రాజ్యాంగం' లేదా A.I కోసం నిర్దేశించిన విలువల సమితిని అందించడానికి ప్రారంభంలో మానవ పర్యవేక్షణ అవసరం. అనుసరించాల్సిన నమూనాలు.
ఆంత్రోపిక్ యొక్క “రాజ్యాంగం” ఐక్యరాజ్యసమితి మానవ హక్కుల ప్రకటన మరియు వివిధ టెక్ కంపెనీల నుండి సేవా నిబంధనల వంటి స్థాపించబడిన పత్రాల నుండి విశ్వవ్యాప్తంగా ఆమోదించబడిన సూత్రాలను కలిగి ఉంటుంది.
Amodei ఆంత్రోపిక్ యొక్క శిక్షణా పద్ధతిని ఇలా వివరించాడు, “మేము ఈ సూత్రాలను తీసుకుంటాము మరియు సూత్రాలకు ప్రతిస్పందనగా ఏమి చేయబోతున్నా అది చేయమని మేము ఒక బాట్‌ని అడుగుతాము. మొదటి బోట్ చేసినది సూత్రాలకు అనుగుణంగా ఉందో లేదో తనిఖీ చేయడానికి మేము బోట్ యొక్క మరొక కాపీని తీసుకుంటాము. లేకపోతే, ప్రతికూల అభిప్రాయాన్ని తెలియజేయండి. కాబట్టి బోట్ ఈ లూప్‌లోని బోట్‌కు సూత్రాలకు అనుగుణంగా ఉండేలా శిక్షణ ఇస్తోంది.
ఎడ్వర్డ్ స్నోడెన్ ఒక దేశద్రోహి
'A.I యొక్క విలువలను రూపొందించడానికి ఇది మరింత పారదర్శకమైన మరియు ప్రభావవంతమైన మార్గం అని మేము భావిస్తున్నాము. వ్యవస్థ, ”అమోడీ చెప్పారు.
అయితే, A.I యొక్క ప్రాథమిక లోపం. మోడల్స్ అంటే అవి ఎప్పటికీ పరిపూర్ణంగా ఉండవు. 'ఇది కొంచెం సెల్ఫ్ డ్రైవింగ్ లాగా ఉంది,' అని అమోడీ చెప్పారు. “ఈ కారు ఎప్పటికీ క్రాష్ కాదని మీరు హామీ ఇవ్వలేరు. మనం చెప్పగలిగినది ఏమిటంటే, 'ఈ కారు మానవుడు కారు నడుపుతున్న దానికంటే చాలా తక్కువగా క్రాష్ అవుతుంది మరియు అది నడిపిన ప్రతిసారీ సురక్షితంగా ఉంటుంది.'
