AI గురించి భయానక భాగం ఏమిటంటే చాలా మంది రచయితలు దీన్ని ఇష్టపడుతున్నారు

బుక్ పోస్ట్‌లోని రెండు భాగాల కథలో ఇది రెండవది; మొదటి పోస్ట్ చదవండి ఇక్కడ .

అసలైన సాహిత్య కళను రూపొందించడంలో కంప్యూటర్ రచయితను భర్తీ చేయగలదనే తిరస్కరణల మధ్య, ఇప్పటికే కృత్రిమ మేధస్సును ఉపయోగిస్తున్న వర్కింగ్ రైటర్‌లతో అనేక ఇంటర్వ్యూలు తాత్కాలికంగా రోజీగా ఉన్నాయి. జే కాస్పియన్ కాంగ్, లో వ్రాయడం ది న్యూయార్కర్ చాట్‌బాట్‌ల గురించి కొంత ముందస్తు జ్ఞానం మరియు కొంత నిపుణుల సలహాతో, ChatGPTతో తన కల్పిత ప్రయత్నాలలో సంతృప్తికరమైన సాహిత్య ఉత్పత్తిని పొందలేకపోయాడు, కానీ కెవిన్ రూస్ పోడ్‌కాస్ట్‌లో హార్డ్ ఫోర్క్ మరియు విద్యా రచయిత జాన్ వార్నర్ వారి ఇన్‌పుట్‌లను మెరుగుపరచడం ద్వారా ఫలితాలను గణనీయంగా మెరుగుపరచగలిగారు. లింకన్ మిచెల్ నవలా రచయిత చాండ్లర్ క్లాంగ్ స్మిత్‌ను ఇంటర్వ్యూ చేశారు , అనే GPT-3-ఆధారిత ప్రోగ్రామ్‌ని ఎవరు ఉపయోగిస్తున్నారు సుడోరైట్ ఒక సంవత్సరం లేదా అంతకంటే ఎక్కువ కాలం ఆమె నవలలపై పనిచేయడానికి. ఆమె ఆ అనుభవాన్ని చిరస్మరణీయంగా వివరించింది, 'ఒక రోబోట్ మీ పని పురోగతిలో ఉన్నట్లు కలలు కంటుంది మరియు ఆ కల నుండి ఏదైనా మీరు ఏమి చేయాలని ప్రయత్నిస్తున్నారో మీరు నిర్ణయించుకోవాలి.' పనిని ముందుకు తీసుకెళ్ళడానికి AI చేస్తున్న ప్రయత్నాలు 'అవి ఇప్పటికే ఎక్కడో … టెక్స్ట్‌లో పాతిపెట్టినట్లుగా కనిపించే ఆలోచనలను అన్‌లాక్ చేయగలవు' అని ఆమె అన్నారు. చాండ్లర్ క్లాంగ్ స్మిత్ 'ప్లాట్ మరియు స్ట్రక్చర్ వంటి స్థూల అంశాలతో' వ్యవహరించడంలో AI సహాయం చేయలేదని కనుగొన్నారు. పైగా అంచుకు , సుడోరైట్‌ని ఉపయోగిస్తున్న మరియు ఇప్పుడే చాట్‌జిపిటితో ప్రయోగాలు చేయడం ప్రారంభించిన స్వీయ-ప్రచురితమైన “హాయిగా ఉండే రహస్యం” రచయిత జెన్నిఫర్ లెప్, తాను చాట్‌బాట్‌కు ఆవరణ మరియు కొన్ని వివరాలను అందించగలనని మరియు అది ప్రభావవంతమైన కథనాన్ని రూపొందించగలదని తాను ఆశ్చర్యపోయానని జోష్ డిజిజాతో చెప్పారు. కళా ప్రక్రియ. స్వీయ-ప్రచురితమైన కళా ప్రక్రియ రచయితలు తరచుగా సంవత్సరానికి వందలాది నవలలను వినియోగించే పాఠకుల కోసం వ్రాస్తున్నారు మరియు స్థాయిలో ఉత్పత్తి చేయడానికి ఒత్తిడిలో ఉన్నారు (చూడండి మా పోస్ట్ స్వీయ-ప్రచురణ మరియు శృంగారంపై). జెన్నిఫర్ లెప్ మాట్లాడుతూ, తనకు తెలిసిన చాలా మంది రచయితలు ప్రక్రియను వేగవంతం చేయడానికి ChatGPT సామర్థ్యాలపై గీయడం వల్ల కలిగే చిక్కులతో కుస్తీ పడుతున్నారు. ఈ పాఠకులకు, మానవ మరియు యంత్ర భాగస్వామ్యానికి మధ్య సమతుల్యత ఏమిటి?

ఈ మరింత ఉల్లాసవంతమైన ప్రయత్నాలతో సంబంధం లేకుండా, ఉత్పాదక AIలో అనేక స్థానిక ప్రమాదాలు ఉన్నాయి. రెండు ChatGPT సైట్‌లోనే చక్కగా సంగ్రహించబడ్డాయి: బాట్ 'అప్పుడప్పుడు తప్పు సమాచారాన్ని రూపొందించవచ్చు' మరియు 'అప్పుడప్పుడు హానికరమైన కంటెంట్ మరియు పక్షపాత సూచనలను ఉత్పత్తి చేయవచ్చు.' ChatGPT అనేది ఒక భాషా నమూనా: ఇది చేసేదల్లా, ఇంటర్నెట్ నుండి బయటకు తీసే అతి పెద్ద పూల్‌లో గుర్తించే నమూనాల ఆధారంగా భాషను అంచనా వేయడం మాత్రమే, మరియు అది చేయగలదు అన్ని తప్పులు మరియు వికారాలను పునరుత్పత్తి చేయండి అది అక్కడ కనుగొనవచ్చు, మరియు దాని స్వంతంగా మరికొన్ని జోడించండి . (గూగుల్ AI పరిశోధకుడు టిమ్నెట్ గెబ్రూను తొలగించినప్పుడు 2020 కుంభకోణాన్ని గుర్తుచేసుకోండి వీరి పరిశోధన పెద్ద-భాషా నమూనాల యొక్క ఇతర పరిమితులలో, పక్షపాతం యొక్క పునరుత్పత్తిని గుర్తించబడింది.) ముసాయిదా EU చట్టం 'ప్రమాద వర్గాలను' సృష్టిస్తుంది కొత్త AI సిస్టమ్‌లను ఛానెల్ చేయవచ్చు శస్త్రచికిత్స వంటి 'అధిక-ధర' కార్యకలాపాలను చేపట్టే ముందు ఆన్‌లైన్ ఫూలింగ్ వంటి 'తక్కువ-ధర' ప్రయత్నాల వైపు. ఇంకా, AI పరిశోధకుడు చంద్ర భాగవతుల వలె టెక్ క్రంచ్‌కి చెప్పారు , 'AI వ్యవస్థలు ఇప్పటికే నైతిక మరియు నైతిక చిక్కులతో కూడిన నిర్ణయాలు తీసుకుంటున్నాయి.'

ఉత్పాదక AIకి దారితీయవచ్చు జాత్యహంకార త్రోవలను తరిమికొట్టండి మరియు చిత్రాలను లైంగికీకరించండి . AI రిక్రూట్‌మెంట్ సాధనాలు నియామక పక్షపాతాన్ని ఎన్కోడ్ చేయవచ్చు (బిడెన్ పరిపాలన గత పతనం కోసం ఒక బ్లూప్రింట్‌ను రూపొందించింది ' AI హక్కుల బిల్లు 'వివక్షత మరియు దోపిడీ అల్గారిథమ్‌ల నుండి వినియోగదారులను రక్షించడం). GPT-3 ప్రమాదకర ఫలితాలను పరిమితం చేసే “గార్‌డ్రెయిల్‌లను” ప్రవేశపెట్టినట్లు కనిపిస్తోంది, అయితే ఇవి స్పష్టంగా ఉన్నాయి అణచివేయడం సులభం , మరియు దాని మాస్టర్స్ కోసం కూడా ఉత్పత్తి చేస్తుంది వివిధ రకాల నియంత్రణ సమస్యలు అన్ని కంటెంట్-అజ్ఞేయ ప్లాట్‌ఫారమ్‌లను ప్రభావితం చేస్తోంది. ఉత్పాదక AI దుర్మార్గపు ప్రయోజనాల కోసం కూడా ఉపయోగించబడవచ్చు- సైబర్ క్రైమ్ , లోతైన నకిలీలు , ఏకాభిప్రాయం లేని పోర్న్ . చాట్‌జిపిటి దాని ఫలితాన్ని రాజకీయాల కోసం ఉపయోగించకుండా కట్టుబడి ఉండాలని వినియోగదారులను అడుగుతుంది.

GPT-3 వంటి పెద్ద-భాష, ఉత్పాదక AI సిస్టమ్‌లకు మరొక అంతర్లీన సవాలు మేధో సంపత్తి . ChatGPT చేసే ప్రతిదీ గతంలో ఎవరైనా చేసిన పనిని ఆకర్షిస్తుంది మరియు భవిష్యత్తులో ఉత్పాదక నమూనాలు వారికి 'శిక్షణ' ఇవ్వడానికి నిరంతరం కొత్త మెటీరియల్‌ని పీల్చుకుంటూ ఉంటాయి. AI నమూనాలు నిర్దిష్ట కళాకారులను నేరుగా ఆక్రమించినప్పుడు మరియు అనుకరించినప్పుడు మరియు స్కావెంజ్ మరింత బహువచనం అయినప్పుడు మరియు 'న్యాయమైన ఉపయోగం'తో కప్పబడినప్పుడు నియంత్రణ మరియు కాపీరైట్ ప్రాసిక్యూషన్ కొంత సమతుల్యతను గుర్తించవలసి ఉంటుందని పండితులు అంచనా వేస్తున్నారు, అయితే కొంతమంది న్యాయవాదులు అన్ని అంశాలు అలాంటిదేనని వాదిస్తున్నారు. మోడల్‌లకు లైసెన్స్ ఉండాలి మరియు సృష్టికర్తలకు పరిహారం ఇవ్వాలి. స్టెబిలిటీ AI ఇటీవల చిత్ర జనరేటర్ స్టేబుల్ డిఫ్యూజన్‌కు శిక్షణ ఇవ్వడానికి ఉపయోగించే డేటా సెట్‌ను నిలిపివేయడానికి కళాకారులను అనుమతిస్తుంది అని సూచించింది; చట్టపరమైన ప్రమాదం కారణంగా గెట్టి ఇమేజెస్ AI కంటెంట్‌ను నిషేధించింది; ఆన్‌లైన్ గ్యాలరీ DeviantArt AI ట్రాలర్‌ను హెచ్చరించడానికి చిత్రాల కోసం 'మెటాడేటా ట్యాగ్'ని సృష్టించింది. ఇది మన డిజిటల్ విశ్వాన్ని రూపొందించే మానసిక పనిని చేసే వారి నుండి రెన్యుమరేషన్ యొక్క డిజిటల్ బ్లడ్ లెటింగ్‌లో మరొక దశగా భావించడం ప్రారంభమవుతుంది. (సంబంధిత, రికార్డ్ లేబుల్‌లు ఇటీవల రాయల్టీ పెంచాలని డిమాండ్ చేశారు వారి వీడియోలను చాలా అంటువ్యాధిగా మార్చే సంగీతం కోసం TikTok నుండి.)

అటువంటి అధికారాలు మరియు వాగ్దానాలతో కూడిన సాధనాలను ఉపయోగించడం, ప్రత్యేకించి సాంకేతిక పరిశ్రమలో మరియు నియంత్రణ లేకుండా పాలన విషయానికి వస్తే, రచయితలు మరియు భాష మరియు కళలతో పని చేసేవారు ఒక్కసారిగా ఉక్కిరిబిక్కిరి అవుతారు. ChatGPT మరియు ఇతర పెద్ద-భాషా సాధనాలు సాహిత్య కళను ఉత్పత్తి చేయగలవా అనే వాదన (దీని కోసం: స్టీఫెన్ మార్చే , వ్యతిరేకంగా: ఇయాన్ బోగోస్ట్ , వాల్టర్ కిర్న్ ) యంత్రానికి దాని ప్రాంప్ట్‌లను అందించడం మరియు దాని ఫలితాలను ముఖ్యమైనదిగా మెరుగుపరచడం వంటి మానవ సంపాదకీయ చేతిని మీరు చూస్తున్నారా లేదా అనే దానిపై ఆధారపడి ఉంటుంది. అమిత్ గుప్తా, చాండ్లర్ క్లాంగ్ స్మిత్ ఉపయోగించే ప్రోగ్రామ్ వ్యవస్థాపకులలో ఒకరు, స్టీఫెన్ మార్చే చెప్పారు , చాండ్లర్ క్లాంగ్ స్మిత్ యొక్క ఆసక్తిని రేకెత్తించిన కథనంలో, “రచయిత యొక్క ఉద్యోగం దాదాపు సంపాదకుడిగా మారుతుంది. మీ పాత్ర ఏది మంచిదో నిర్ణయించడం మరియు మీ అభిరుచికి అనుగుణంగా అమలు చేయడం మొదలవుతుంది, పదం పదం పదం పంపడం వంటి తక్కువ స్థాయి పని కాదు.' మార్చే AIని ఫోటోగ్రఫీతో పోలుస్తూ ఇలా అన్నాడు, “అంతర్దృష్టితో, యంత్రాలు కళను భర్తీ చేయలేదని స్పష్టమవుతుంది; వారు దానిని విస్తరించారు.'

లో ఒక సమావేశంలో ప్రదర్శిస్తున్నారు గత పతనం Google యొక్క ChatGPT సంస్కరణ, AI ఆయుధ పోటీలో ఉన్న ఇతర పెద్ద సంస్థల వలె, మోడళ్ల యొక్క అనేక బలహీనతలు, ప్రత్యేకించి—Google కోసం— దాని బ్రాండ్-అనుకూల ధోరణి సరికాని ఉత్పత్తి చేయడం వలన చాలా పెద్ద సంస్థ ఇంకా విడుదల చేయలేదు. ఫలితాలు, పరిశోధకుడు డగ్లస్ ఎక్ స్నేహపూర్వక పేరుతో వారి నమూనాను నొక్కిచెప్పారు Wordcraft రైటర్స్ వర్క్‌షాప్ , ఇంటరాక్టివ్‌గా ఉండేలా రూపొందించబడింది: 'మనం చేసే పనిపై ఏజెన్సీ మరియు సృజనాత్మక నియంత్రణను కలిగి ఉండేలా సాంకేతికత మన అవసరానికి ఉపయోగపడుతుంది.' రిపోర్టర్ బెన్ డిక్సన్ ఇలా వ్యాఖ్యానించాడు, 'మానవ నియంత్రణ మరియు పర్యవేక్షణ లేకుండా, ఉత్పాదక నమూనాల వంటి AI వ్యవస్థలు పనితీరు తక్కువగా ఉంటాయి ఎందుకంటే అవి ప్రాథమిక భావనలపై ఒకే విధమైన అవగాహన లేదు మనం మనుషులం చేసినట్లే.'

పోడ్‌కాస్ట్‌లో విస్తృతంగా ప్రచురించబడిన స్టీఫెన్ మార్చేతో ఒక అసంబద్ధమైన ఇంటర్వ్యూలో ChatGPT చుట్టూ చాలా అయోమయం కనిపించింది ఇంటెలిజెన్స్ స్క్వేర్డ్ , దీనిలో అతను చాట్‌జిపిటి కోల్‌రిడ్జ్ నుండి వేరు చేయలేని పద్యాన్ని రూపొందించగలదని మరియు అతను ప్రచురించగల ఒక వ్యాసాన్ని వ్రాయగలడని పేర్కొన్నాడు. అట్లాంటిక్ మరియు అది 'మానవ రచనను భర్తీ చేయగలదు' అని, కంప్యూటర్లు ఎప్పటికీ 'వైరల్‌గా మారే' దానిని సృష్టించలేవు, అయినప్పటికీ వైరల్ అనేది చివరకు రోబోటిక్ దృగ్విషయం. చాట్‌బాట్‌ల ఉపయోగం “మొదటి చిత్తుప్రతులను” రూపొందించడంలో ఉంటుందని, ఇది పూర్తిగా తప్పు అని, వాటిని సరిదిద్దడం మరియు సవరించడం ద్వారా మనం మానవులను తయారు చేస్తాము అని అమిత్ గుప్తాకు ప్రతిధ్వనించారు. AI-సహాయక విద్యార్థి పనిని మూల్యాంకనం చేయడంలో 'మీరు వ్యక్తీకరణ యొక్క స్పష్టత కంటే కంటెంట్‌ని ఎక్కువగా చూస్తారు', అయినప్పటికీ బాట్ 'మీరు పెట్టె వెలుపల ఉపయోగించగల పనిని ఉత్పత్తి చేయదు'; మానవ కళ శుద్ధీకరణలో ఉంది. మానవుడు వాస్తవాలను తనిఖీ చేసి, ముగింపును మెరుగుపరుస్తుంటే, బాట్ సరిగ్గా ఏమి సహకరిస్తుంది?

సాంకేతిక సాధనాలను ఉపయోగించాలనే వాదనను నేను చూడగలను, కానీ 'పదం ద్వారా పదాన్ని పంపింగ్ చేయడం' లేదా ఆలోచనలను ఒక రూపం మరియు క్రమంలో సమీకరించడం అనేది రచన యొక్క 'తక్కువ స్థాయి పని' అనే ఆలోచన నాకు అర్థం కాలేదు. చాట్‌జిపిటి మరియు దాని తోబుట్టువుల ప్రమాదం ఏమిటంటే, ఇది మానవ ఉత్పత్తి నుండి దాదాపుగా వేరు చేయలేనిది మరియు టిమ్‌నెట్ గెబ్రూ మరియు ఆమె సహచరులు వలె సులభంగా గుర్తించవచ్చు. వివేచనాపరుడు , ఉత్పత్తి, సాధనాలు మరింత అధునాతనంగా మారడంతో, భాషా నమూనా వాస్తవానికి ఏదైనా అర్థం చేసుకోదు లేదా తెలియదు అనే వాస్తవాన్ని కప్పి ఉంచే 'అర్థం యొక్క భ్రమలు', ఇది కేవలం వచనాన్ని అరువుగా తీసుకొని నమూనాలను అనుకరించడం. గుప్తా మరియు మార్చే వర్ణించే అప్లిక్యూ అధీకృత పద్ధతిలో చేతన ఉనికిని మరియు ప్రయోజనాన్ని గుర్తించడం అనేది బహుశా అంతుచిక్కని పనిలా అనిపిస్తుంది. కాసే న్యూటన్ మరియు కెవిన్ రూస్ అశాంతితో గుర్తించారు వారి పోడ్‌కాస్ట్‌లో సిసిరో అనే పెద్ద-భాష మోడల్ గేమ్ డిప్లొమసీ-iలో వ్యక్తులను ఎలా ఓడించాలో నేర్చుకుంది. ఇ., చర్చలలో మానవ ఆటగాళ్లను ఒప్పించండి.

ఒక యంత్రం మోజార్ట్‌లా ఆనందాన్ని కలిగించే లేదా షేక్స్‌పియర్ యొక్క సంక్లిష్టతతో మనస్సును నిమగ్నం చేసే ప్రపంచాన్ని నేను దాదాపుగా ఊహించగలను. ఇప్పుడు ఊహించని ఈ అనుభవాల సంభావ్యతకు నేను దగ్గరగా ఉండకూడదని నేను అనుకుంటాను. కానీ మానవ ఉద్దేశ్యంతో ఈ రూపాల యొక్క మా చారిత్రక అనుబంధం గురించి ఆలోచించడం నాకు కష్టం. విద్యార్థి యొక్క వ్యాసం అభివృద్ధి చెందిన ఆలోచన ప్రక్రియ యొక్క రికార్డు కాకపోతే, అభివృద్ధి చెందిన ఆలోచనను రికార్డ్ చేయడానికి మనం మరొక మార్గాన్ని కనుగొనాల్సిన అవసరం ఉందా? లేక అభివృద్ధి చెందిన ఆలోచనను పూర్తిగా అప్పగించాలనే ఆలోచన ఉందా? మేధో ఆకాంక్షను మనం చేసే మరియు ఆరాధించే విషయాల యొక్క గ్రిస్ట్, తెలియని ఒత్తిడిని అధిగమించే శ్రమ, పాక్షిక లేదా దెబ్బతిన్న ప్రపంచాన్ని మెరుగుపరిచే ప్రయత్నంగా గుర్తించలేని ప్రపంచంలోకి నా దారిని నేను ఊహించలేను. , ఎందుకంటే ప్రయత్నించకుండానే, ఇంతకు ముందు చేసిన వాటిని తిరిగి పొందడం మరియు కుట్టడం ద్వారా ఏదైనా తయారు చేయవచ్చు. కానీ బహుశా నేను ఏమి కోల్పోతున్నానో నాకు తెలియదు.