అక్కడ ఒక కృత్రిమ మేధస్సు గురించి సిలికాన్ వ్యాలీలో గొప్ప చర్చ జరుగుతోంది మరియు దురదృష్టవశాత్తు మవుతుంది: మేము అనుకోకుండా సూపర్ స్మార్ట్ A.I ని నిర్మిస్తామా? అది మనపై తిరుగుతుంది మరియు మనందరినీ చంపేస్తుంది లేదా బానిసలుగా చేస్తుంది?
ఫుల్లర్ మరియు సియారా మెకాలిఫ్ గీసాడు
ఇది వేసవి విపత్తు చిత్రం యొక్క దృశ్యం లాగా అనిపించవచ్చు, కానీ ఇది ఎలోన్ మస్క్ నుండి చివరి వరకు కొన్ని పెద్ద పెద్ద పేర్లను కలిగి ఉంది స్టీఫెన్ హాకింగ్ .
'మీరు స్వీయ-మెరుగుదల A.I ని సృష్టించండి. స్ట్రాబెర్రీలను ఎంచుకోవడానికి, ' మస్క్ చెప్పారు , అతని భయాలను వివరిస్తూ, 'మరియు ఇది స్ట్రాబెర్రీలను తీయడంలో మరింత మెరుగవుతుంది మరియు మరింత ఎక్కువగా ఎంచుకుంటుంది మరియు ఇది స్వీయ-మెరుగుదల, కాబట్టి ఇది నిజంగా చేయాలనుకుంటున్నది స్ట్రాబెర్రీలను ఎంచుకోవడం మాత్రమే. కాబట్టి అది ప్రపంచమంతా స్ట్రాబెర్రీ క్షేత్రాలుగా ఉంటుంది. స్ట్రాబెర్రీ పొలాలు ఎప్పటికీ. ' ఈ స్ట్రాబెర్రీ-పాకలిప్స్ యొక్క మార్గంలో మానవులు A.I కి ఖర్చు చేయదగిన చికాకుగా ఉంటారు.
కానీ మానవులు అనుకోకుండా A.I ను రూపొందించేంత వెర్రివారు కాదు. నాగరికత మొత్తాన్ని ఒక పెద్ద బెర్రీ ఫామ్‌గా మార్చడానికి నడుపబడుతుందా? బహుశా కాదు, కానీ జానెల్ షేన్ , న్యూరల్ నెట్‌వర్క్‌లకు శిక్షణ ఇచ్చే పరిశోధకుడు, ఒక రకమైన యంత్ర అభ్యాస అల్గోరిథం ఇటీవల గుర్తించారు ఆమె బ్లాగ్, A.I. విచిత్రత , ఇది పూర్తిగా వారు పొరపాటున చేయగలరు.
వాస్తవానికి, మానవులు తాము ఒక పని కోసం రోబోలను నిర్మిస్తున్నట్లు భావించిన మొదటి సారి చాలా దూరం అవుతుంది మరియు రోబోట్లు వ్యవస్థను గేమింగ్ చేస్తున్నాయని వారు ఎప్పుడూ ఉద్దేశించని విధంగా కనుగొన్నారు. మనోహరమైన పోస్ట్ అకాడెమిక్ సాహిత్యంలో త్రవ్వి, రోబోలు అడవికి పోయిన అనేక ఉదాహరణలను పంచుకుంటాయి. వారు ఫన్నీ, తెలివైన, మరియు, కలిసి తీసుకుంటే, కొద్దిగా గగుర్పాటు కంటే ఎక్కువ.
1. మీరు దొర్లిపోయేటప్పుడు ఎవరికి కాళ్ళు అవసరం?
'అనుకరణ రోబోట్ వీలైనంత త్వరగా ప్రయాణించడానికి పరిణామం చెందాల్సి ఉంది. కానీ కాళ్ళు పరిణామం చెందకుండా, అది ఎత్తైన టవర్‌లోకి సమావేశమై, ఆపై పడిపోయింది. ఈ రోబోట్లలో కొన్ని వాటి పడిపోయే కదలికను కొంత దూరం గా మార్చడం కూడా నేర్చుకున్నాయి, అదనపు దూరాన్ని జోడించాయి 'అని షేన్ రాశాడు.
2. చేయగల రోబో.
'అనుకరణ రోబోట్ల యొక్క మరొక సెట్ జంప్ చేయగల రూపంగా పరిణామం చెందాలి. కానీ ప్రోగ్రామర్ మొదట జంపింగ్ ఎత్తును ఎత్తైన బ్లాక్ యొక్క ఎత్తుగా నిర్వచించాడు - మరోసారి - రోబోట్లు చాలా పొడవుగా ఉద్భవించాయి 'అని షేన్ వివరించాడు. 'ప్రోగ్రామర్ జంపింగ్ ఎత్తును బ్లాక్ యొక్క ఎత్తుగా నిర్వచించడం ద్వారా దీనిని పరిష్కరించడానికి ప్రయత్నించాడు, అది మొదట' అత్యల్పం '. ప్రతిస్పందనగా, రోబోట్ ఒక పొడవైన సన్నగా ఉండే కాలును అభివృద్ధి చేసింది, అది ఒక రకమైన రోబోట్ కెన్-క్యాన్లో గాలిలోకి ఎత్తగలదు. '
3. పరీక్షను దాచండి మరియు మీరు దానిని విఫలం చేయలేరు.
'సంఖ్యల జాబితాను క్రమబద్ధీకరించాల్సిన అల్గోరిథం ఉంది. బదులుగా, ఇది జాబితాను తొలగించడం నేర్చుకుంది, తద్వారా ఇది సాంకేతికంగా క్రమబద్ధీకరించబడలేదు, 'అని షేన్ వివరించాడు.
4. గణిత లోపాలు జెట్ ఇంధనాన్ని కొట్టాయి.
'ఒక అనుకరణలో, శక్తులను లెక్కించే గణితంలో చిన్న రౌండింగ్ లోపాలు అంటే చలనంతో అదనపు శక్తిని పొందవచ్చని రోబోట్లు తెలుసుకున్నారు. వారు వేగంగా మెలితిప్పడం నేర్చుకున్నారు, వారు ఉపయోగించుకోగలిగే ఉచిత శక్తిని ఉత్పత్తి చేస్తారు 'అని షేన్ చెప్పారు. హే, అది మోసం!
5. ఇంవిన్సిబిల్ (విధ్వంసకమైతే) ఈడ్పు-టాక్-బొటనవేలు వ్యూహం.
ఒకసారి 'ప్రోగ్రామర్ల బృందం అనంతమైన పెద్ద బోర్డులో ఒకదానికొకటి రిమోట్‌గా టిక్-టాక్-బొటనవేలు ఆడగల అల్గారిథమ్‌లను నిర్మించింది' అని షేన్ పేర్కొన్నాడు. 'ఒక ప్రోగ్రామర్, వారి అల్గోరిథం యొక్క వ్యూహాన్ని రూపొందించడం కంటే, అది దాని స్వంత విధానాన్ని రూపొందించుకుందాం. ఆశ్చర్యకరంగా, అల్గోరిథం అకస్మాత్తుగా దాని అన్ని ఆటలను గెలవడం ప్రారంభించింది. అల్గోరిథం యొక్క వ్యూహం దాని కదలికను చాలా దూరంగా ఉంచడం అని తేలింది, తద్వారా దాని ప్రత్యర్థి కంప్యూటర్ కొత్తగా విస్తరించిన కొత్త బోర్డ్‌ను అనుకరించటానికి ప్రయత్నించినప్పుడు, భారీ గేమ్‌బోర్డ్ అది జ్ఞాపకశక్తి మరియు క్రాష్ అయిపోవడానికి కారణమవుతుంది, ఆట. '
6. ఉపయోగకరమైన ఆట లోపం ఏదీ ఉపయోగించబడదు.
'కంప్యూటర్ గేమ్-ప్లేయింగ్ అల్గోరిథంలు మానవులు సాధారణంగా స్పీడ్ రన్నింగ్ కోసం దోపిడీ చేయడానికి నేర్చుకునే మ్యాట్రిక్స్ అవాంతరాలను కనుగొనడంలో మంచివి. పాత అటారీ గేమ్ Q * బెర్ట్ ఆడుతున్న ఒక అల్గోరిథం ఇంతకుముందు తెలియని బగ్‌ను కనుగొంది, ఇక్కడ ఇది ఒక స్థాయి చివరిలో చాలా నిర్దిష్టమైన కదలికలను చేయగలదు మరియు తదుపరి స్థాయికి వెళ్ళే బదులు, అన్ని ప్లాట్‌ఫారమ్‌లు వేగంగా మెరిసిపోతాయి మరియు ఆటగాడు భారీ సంఖ్యలో పాయింట్లను కూడబెట్టుకోవడం ప్రారంభిస్తాడు 'అని షేన్ చెప్పారు.
7. క్షమించండి, పైలట్.
ఈ ఉదాహరణ క్రీపీనెస్ స్కేల్‌లో చాలా ఎక్కువ: 'ఒక విమాన వాహక నౌకలో విమానం ల్యాండింగ్‌కు కనీస శక్తిని ఎలా ఉపయోగించాలో గుర్తించాల్సిన అల్గోరిథం ఉంది. బదులుగా, ఇది 'భారీ' శక్తిని వర్తింపజేస్తే, అది ప్రోగ్రామ్ యొక్క మెమరీని పొంగిపోతుందని మరియు బదులుగా చాలా 'చిన్న' శక్తిగా నమోదు చేస్తుందని కనుగొన్నారు. పైలట్ చనిపోతాడు కాని, హే, పర్ఫెక్ట్ స్కోరు. '
కాబట్టి మనమందరం విచారకరంగా ఉన్నారా?
ఇవన్నీ కలిపి చూస్తే, రోబోట్లు వాటి కోసం మనం నిర్దేశించిన సమస్యలను ఎలా పరిష్కరిస్తాయో, లేదా వారు సమస్యలను ఎలా నిర్వచిస్తారో ess హించడంలో మానవులు చాలా అసహ్యంగా ఉన్నారని సూచిస్తున్నాయి. కాబట్టి షేన్ అనుకోకుండా నరహత్య A.I ను నిర్మించడం గురించి ఆందోళన చెందుతున్నాడు. మస్క్ లాగా అధిపతులు? నిజంగా కాదు, కానీ మానవ ప్రోగ్రామర్లు నిజంగా వారు సృష్టిస్తున్న రోబోట్లపై గొప్ప హ్యాండిల్ కలిగి ఉన్నారని ఆమెకు ఖచ్చితంగా తెలియదు. బదులుగా, ఆమె మమ్మల్ని రక్షించడానికి రోబోట్ సోమరితనం మీద బ్యాంకింగ్ చేస్తుంది.
'ప్రోగ్రామర్‌లుగా మన అల్గోరిథంలు సత్వరమార్గాలను ఉపయోగించుకోకుండా వాటిని పరిష్కరించడానికి మేము ఉద్దేశించిన సమస్యలను పరిష్కరిస్తున్నామని చాలా జాగ్రత్తగా ఉండాలి. ఇచ్చిన సమస్యను పరిష్కరించడానికి మరొక, సులభమైన మార్గం ఉంటే, యంత్ర అభ్యాసం దానిని కనుగొంటుంది 'అని ఆమె గమనించింది. 'అదృష్టవశాత్తూ,' మనుషులందరినీ చంపండి 'నిజంగా చాలా కష్టం. 'నమ్మదగని రుచికరమైన కేకును కాల్చడం' కూడా సమస్యను పరిష్కరిస్తుంది మరియు 'మానవులందరినీ చంపడం' కంటే సులభం అయితే, యంత్ర అభ్యాసం కేక్‌తో వెళ్తుంది. '
