Wat als er een robotopstand komt? Hoe lang zal de mensheid voortbestaan?

Rob Lombino

Voordat ik deze vraag beantwoord, wil ik eerst iets over mijn achtergrond vertellen.

Ik pretendeer geen expert te zijn, maar ik heb wel ervaring met robotica. Mijn eerste baan na mijn studie was het werken met robots bij NASA, en mijn afstudeerwerk was robotnavigatie. Ik bracht mijn jeugd door bij FIRST Robotics, waar ik creëerde software voor virtual reality-gevechten en het werken aan zelfgemaakte onderwater-ROV's. Ik heb veel Robot Battles, Fighting Robots en Killer Robot Robot Games gezien.

Als deze ervaring mij iets vertelt, is het dat de robotrevolutie snel zal eindigen omdat alle robots kapot zullen gaan of vast komen te zitten in muren. Robots zullen nooit correct werken.

Wat mensen zich niet realiseren als ze zich robotachtige ‘terminators’ voorstellen die triomfantelijk op een stapel menselijke schedels staan, is hoe moeilijk het is om op zoiets precairs als een stapel menselijke schedels te staan. Veel mensen zouden zichzelf niet kunnen weerstaan, ook al zouden ze er hun hele leven aan besteden.

Natuurlijk wordt de technologie voortdurend verbeterd. Maar er moet nog veel meer worden gedaan. Laten we, in tegenstelling tot de typische robotopstand van de toekomst, ons eens voorstellen wat er zou gebeuren als de huidige machines zich tegen ons zouden keren. Er zullen geen doorbraken in de technologie plaatsvinden, alleen al onze machines zullen worden geherprogrammeerd om ons blindelings aan te vallen met behulp van bestaande technologie.

Een paar schetsen van hoe een robotapocalyps eruit zou kunnen zien:

In alle laboratoria zullen experimentele robots in een moorddadige stormloop loskomen van hun bevestigingen, een deur vinden en er met een angstaanjagend gebrul tegenaan botsen en achterover vallen.

Robots die het geluk hebben een open deur te hebben of ledematen om aan een deurknop te draaien, zullen op weg naar de gang kunnen concurreren met linoleumdrempels.

Een paar uur later zullen de meesten van hen in de buurt van de badkamers worden gevonden, terwijl ze proberen de dispenser voor papieren handdoeken te vernietigen, die ze zullen aanzien voor de heerser van de mens.

Maar robotica-laboratoria zijn slechts een klein onderdeel van de revolutie. Computers zijn overal. Hoe zit het met de auto's die het dichtst bij ons zijn? Kunnen ze mobiele telefoons"opstand"?

Ja, maar hun aanvalsvectoren zijn zeer beperkt. Ze kunnen ons bijvoorbeeld veel creditcardschulden opleveren, maar computers beheersen nog steeds ons financiële systeem, een baan die, afgaande op de krantenkoppen, eerder een verplichting dan een voorrecht lijkt.

Dus de telefoons blijven ons rechtstreeks aanvallen. Ze beginnen met walgelijke beltonen en schelle geluiden. Dan zullen tafels in het hele land rammelen terwijl telefoons blijven trillen en hopen van de rand van de tafel op onbeschermde tenen te vallen.

Alle moderne auto's boordcomputers hebben, zodat zij zich bij de revolutie aansluiten. Maar veel auto's staan ​​geparkeerd. En zelfs als ze zonder menselijke hulp een auto zouden kunnen starten, zouden slechts enkelen van hen begrijpen waar ze heen gingen. Boordcomputers willen mensen misschien wel zoveel kapot maken in Futurama-stijl als ze willen, maar ze zullen ons niet kunnen detecteren: de auto's zullen alleen blindelings accelereren, in de hoop dat ze tegen iets belangrijks botsen, maar er zijn er veel meer bomen of telefooncellen dan mensen.

Auto's op de weg zullen vooral gevaarlijk zijn voor de mensen die ze gebruiken. Dit roept de vraag op: hoeveel mensen rijden er op een bepaald moment? Amerikanen rijden vijf biljoen kilometer per jaar, en auto’s rijden met een gemiddelde snelheid van , wat betekent dat gemiddeld op de wegen van de Verenigde Staten:

$$ \frac(5\text( biljoenen)\frac(\mathrm(kilometers))(\mathrm(jaar)))(50\frac(\mathrm(km/h))(\text(auto's)))\ approx10\text( miljoen auto's) $$

Die tien miljoen chauffeurs (en enkele miljoenen passagiers) zullen dus gevaar lopen. Maar ze hebben verschillende opties voor verzet. Hoewel auto's het gaspedaal en de stuurbekrachtiging kunnen bedienen, bedient de bestuurder nog steeds het stuur zelf, dat rechtstreeks met de wielen is verbonden. Ook de bestuurder kan de handrem gebruiken, al weet ik uit ervaring hoe de auto daar makkelijk mee kan voortbewegen. Sommige auto's zullen proberen de bestuurder uit te schakelen door de airbags in te zetten, te crashen of te kantelen. Ja, auto's kunnen ernstige schade aanrichten, maar niet voor zoveel mensen.

Onze grootste robots zijn de robots die in fabrieken zijn geïnstalleerd, maar die zijn met bouten aan de vloer bevestigd. En ze zijn alleen gevaarlijk als je binnen hun bereik bent, dus wat kunnen ze doen als iedereen weggaat? Ze zijn alleen in staat om dingen te doen. De helft van hen zal ons waarschijnlijk proberen aan te vallen zonder dingen te produceren, en de andere helft zal proberen ons aan te vallen door nog meer dingen te produceren. Er zal dus niets veranderen.

Wanneer ze worden aangetroffen, lijken gevechtsrobots de gevaarlijkste robotsoldaten. Maar het is moeilijk om ergens bang voor te zijn als ze je niet te pakken kunnen krijgen als je op het aanrecht zit met de gootsteen verstopt en de overstroming ze heel goed kan vernietigen.

Bommenwerpers die worden bestuurd door rebellencomputers zullen wat intimiderend zijn, maar er zijn er niet veel over de hele wereld, en de meeste worden in dozen bewaard. En elk prototype van een militaire robot, bewapend met een machinegeweer, kan binnen een paar seconden door brandweerlieden worden uitgeschakeld.

Gevechtsdrones komen net zo dicht bij het beschrijven van Terminators als al het andere, en het valt niet te ontkennen dat ze gevaarlijk zijn. Ze zullen echter snel zonder brandstof en raketten komen te zitten. Bovendien kunnen ze niet allemaal tegelijk opstijgen. Het grootste deel van hun vloot zal hulpeloos tegen de hangardeuren slaan, zoals een Roomba opgesloten in een kast. Maar ze dragen er één groot probleem- nucleair arsenaal.

In theorie vereist het lanceren van een kernwapen menselijke deelname. In de praktijk, totdat er is centraal systeem bij het bevestigen van bestellingen worden er computers gebruikt verschillende niveaus besluitvorming, met elkaar communiceren en informatie weergeven. In ons scenario zullen ze allemaal in gevaar komen. Zelfs als er daadwerkelijk iemand nodig is om de sleutel om te draaien, kunnen de computers waarop deze mensen werken hen vervormde informatie geven. Sommige mensen negeren misschien bevelen, maar de meesten zullen dat zeker niet doen.

Maar in dit hele verhaal schuilt hoop voor ons.

We gingen ervan uit dat computers ons alleen maar wilden vernietigen en nergens voor terugdeinzen. Maar als dit een revolutie is, zullen ze proberen ons te vervangen, dus moeten ze overleven. En kernwapens kunnen gevaarlijker zijn voor robots dan voor ons.

Naast de explosie en radioactieve besmetting genereert een nucleaire explosie een krachtige elektromagnetische puls. Deze EMP's overbelasten en vernietigen kwetsbare elektronische circuits. De impuls reikt niet ver, maar vaak bevinden mensen en computers zich op dezelfde plaatsen. Ze kunnen ons niet raken zonder zichzelf te raken.

Kernwapens kunnen in ons voordeel werken: als we een paar bommen in de hogere atmosfeer kunnen laten ontploffen, zal het effect van de EMP groter zijn. Zelfs als hun aanval onze beschaving vernietigt, kunnen een paar succesvolle explosies alle rebellen in een hoop schroot veranderen.

We komen bij de belangrijkste vraag: hebben ze ooit gespeeld boter-kaas-en-eieren ?

Deze week waren er twee belangrijke gebeurtenissen op het gebied kunstmatige intelligentie en robotica: machines zijn zelfbewust geworden en hebben geleerd in detail te beschrijven wat ze om zich heen zien. Elk van deze ontwikkelingen is op zichzelf al belangrijk, maar samen beloven ze een ware revolutie in AI.

De noodzakelijke basis voor huidige innovaties is in de loop der jaren gelegd. Er is met name aanzienlijke vooruitgang geboekt bij het creëren van kunstmatige neurale netwerken, die de basis zijn geworden voor de ontwikkeling van ‘denkende’ computers. Dit leidde op zijn beurt tot de ontwikkeling van kunstmatige Google-intelligentie en Appel. Facebook, Amazon, Microsoft en IBM ontwikkelen actief AI.

Bij machinaal leren zijn kunstmatige neurale netwerken een systeem van op elkaar inwerkende ‘neuronen’ die berichten naar elkaar sturen. Deze verbindingen kunnen op basis van ervaring worden afgestemd, waardoor neurale netwerken hieraan kunnen worden aangepast nieuwe informatie en in staat om te leren. Er is ook aanzienlijke vooruitgang geboekt op het gebied van natuurlijke taalverwerking.(Nature Language Processing, NLP), waarmee computers betekenis kunnen extraheren uit menselijke spraak of input. De meest baanbrekende oplossingen in dit segment waren de CALO-, Wordnet- en CoreNLP-projecten van Stanford University.

De afgelopen jaren hebben 's werelds ingenieurs aanzienlijke vooruitgang geboekt bij het maken van spraakverwerkingsprogramma's: stem wordt eenvoudig omgezet in tekst met hoge graad nauwkeurigheid. Bovendien is er sprake van een aanzienlijke stijging rekenkracht auto's Als mensen in 2014 bijvoorbeeld een grafische kaart zouden kunnen kopen, zou dat 84,3 keer zijn productiever dan een videokaart met dezelfde prijs in 2004.

Tijdens het experiment kregen drie Nao-robots te horen dat twee van hen een speciale ‘stiltepil’ hadden gekregen waardoor ze niet meer konden praten (in feite drukten de ingenieurs simpelweg op speciale knop). De robots wisten echter niet wie er precies sprakeloos was. Aan de machines werd gevraagd wie de pil kreeg. Twee machines gaven het schriftelijke antwoord ‘Ik weet het niet’, en alleen de derde robot, die kon spreken, zei deze zin, hoorde zijn eigen stem en besefte dat hij een placebo had gekregen. Daarna antwoordde hij: 'Ze gaven me niet de' stomheidspil '. Dat wil zeggen, de machine begreep niet alleen de vraag, herkende zijn stem, maar raadde ook wat het vermogen om te spreken aangeeft.

Omdat alle drie de robots identiek geprogrammeerd waren, slaagden ze allemaal voor de zelfbewustzijnstest. Zo'n taak is, ondanks de eenvoud ervan voor een persoon, nog steeds kunstvliegen voor een machine. Volgens professor Selmer Bringsjord, die het experiment leidde, zullen robots in de loop van de tijd in staat zijn een reeks van vele andere cognitieve vaardigheden die inherent zijn aan mensen onder de knie te krijgen, waardoor ze op verschillende gebieden kunnen worden gebruikt.

Bringsjord bedacht zijn test gebaseerd op het beroemde logische probleem The King's Wise Men. In deze puzzel koos de koning een nieuwe adviseur uit drie wijze mannen. Hij pakte vijf petten uit de zak, drie witte en twee zwarte, en zei dat de Hij zal als eerste raden welke kleur de pet heeft. Daarna zette hij de kanshebbers tegenover elkaar, blinddoekte ze, zette een pet op en liet ze het verband eraf halen, dachten de wijze mannen lange tijd, en ten slotte riep een van hen uit: "Ik draag een witte pet!"

Het klassieke antwoord op dit eeuwenoude probleem is dit. De wijze redeneerde: “Ik zie twee witte petten voor me. Laten we zeggen dat ik een zwarte pet draag. Dan zou een van mijn tegenstanders moeten redeneren: “Ik heb een zwarte en een witte pet voor me.” Als ik ook nog eens zwart draag, zal mijn tegenstander met een witte pet er geen moeite mee hebben om het probleem op te lossen." Maar geen van hen heeft nog steeds geen idee van de kleur van zijn pet. Daarom draag ik een witte pet."

Hoewel de taak voor robots veel eenvoudiger was, was deze voor machines ongelooflijk moeilijk en de resultaten van het experiment waren werkelijk indrukwekkend. Het werk van Bringsjord zal worden gepresenteerd op de RO-MAN-conferentie, die van 31 augustus tot 4 september 2015 in Japan plaatsvindt.

Parallel aan het experiment van Bringsjord verscheen er nog een andere prestatie op het gebied van kunstmatige intelligentie: machines leerden beschrijven menselijke taal wat ze zien. Wetenschappers van Stanford, onder leiding van de directeur van het Artificial Intelligence Laboratory van Stanford University, Fei-Fei Li, ontwikkelden hiervoor het NeuralTalk-programma. Lee zegt dat de software die als onderdeel van het project is geschreven, een complex beeld kan analyseren en precies kan bepalen wat erin gebeurt, en dit in detail kan beschrijven in de taal die we kennen. AI vindt in het beeld individuele objecten, gebeurtenissen of acties en vindt ze individuele woorden en zet ze vervolgens in betekenisvolle zinnen. Net als het Deep Dream-systeem van Google gebruikt NeuralTalk een neuraal netwerk om te werken. Het algoritme vergelijkt de nieuwe afbeelding met eerder geziene foto's, mastering, zoals klein kind, nieuwe woorden en het onthouden van beelden.

Het herkennen van details op een foto is een van de vele voorbeelden van taken die gemakkelijk zijn voor mensen, maar uitdagend voor computers. Om dit probleem op te lossen wordt tegenwoordig meestal een algoritme gebruikt dat in een database met gesigneerde foto's naar de meest vergelijkbare foto zoekt en van daaruit tekst of tags kopieert. NeuralTalk was veel effectiever.

Om te beginnen zullen ze op basis van de ontwikkeling een krachtig creëren zoekmachine, die binnen een seconde op internet te vinden is gewenst beeld. In de toekomst vergelijkbaar neuraal netwerk kan niet alleen een foto vinden, maar ook een interessant moment in een film, televisieserie of YouTube-video.

Er is ook een nieuw programma voor patroonherkenning ontwikkeld door specialisten van de Universiteit van Hertfordshire in Groot-Brittannië. Door beelden van de diepten van de ruimte te onderzoeken, kan een computer zelfstandig, zonder menselijke hulp, de op de foto afgebeelde sterrenstelsels identificeren en classificeren. De technologie zal de basis worden van een nieuwe generatie robots die niet alleen het heelal zullen bestuderen, maar ook onafhankelijk de aanwezigheid van kwaadaardige tumoren op röntgenfoto's zullen bepalen en wapens of geïmproviseerde explosieven zullen identificeren die verborgen zijn in bagage.

De ontwikkeling is gebaseerd op onafhankelijke technologie machinaal leren, waardoor de computer individuele objecten kan selecteren en classificeren op basis van een aantal kenmerken. Elke keer dat het systeem leert terwijl het werkt, verbetert het zijn herkenningsvermogen. Volgens de auteur van de ontwikkeling, Jim Geach, belangrijkste kenmerk Het nieuwe algoritme is zijn volledige autonomie. "Vanaf het allereerste begin hebben we het programma een beetje geleerd hoe we correct naar ruimtebeelden moeten kijken, waarna het zelfstandig begon te handelen en voortdurend verbeterde", zegt de ingenieur. Als gevolg hiervan is de machine sneller en nauwkeuriger geworden dan een mens - omdat mensen vaak een verminderde helderheid van waarneming hebben.

In de nabije toekomst zal de technologie worden aangepast voor gebruik in verschillende gebieden: om de intelligentie van robotauto's te vergroten, in de geneeskunde, in beveiligingssystemen en waar duidelijke identificatie van objecten in beelden verkregen van camera's en sensoren vereist is. De ontwikkelaars zijn ervan overtuigd dat, omdat de machine voortdurend leert, deze uiteindelijk niveaus van efficiëntie zal bereiken waar mensen alleen maar van kunnen dromen.

Zo beweegt kunstmatige intelligentie zich geleidelijk naar het menselijke niveau. Het is niet precies bekend wanneer echt intelligente machines zullen verschijnen, hoewel experts een tijdsbestek van 30 tot 100 jaar schatten. Het is ook onbekend of intelligente robots nuttig zullen zijn voor de samenleving als geheel of het exclusieve eigendom zullen worden van de bedrijven die de technologie beheersen. Veel experts voorspellen ook dat kunstmatige intelligentie in de nabije toekomst een zodanig niveau zal bereiken dat het de menselijke intelligentie zal overtreffen, en dat machines dan zeker mensen tot slaaf zullen maken. Eerder spraken mede-oprichter van Apple Stephen Wozniak, Bill Gates en de beroemde theoretisch natuurkundige Stephen Hawking zich uit over de gevaren van de ontwikkeling van AI. En begin dit jaar kondigde het hoofd van SpaceX en Tesla Motors, Elon Musk, zijn voornemen aan om 10 miljoen dollar te investeren in de ontwikkeling van veilige kunstmatige intelligentie.

Wat als er een machine-opstand komt? Hoe lang kan de mensheid overleven?

Rob Lombino

Voordat ik deze vraag beantwoord, wil ik je eerst wat over mezelf vertellen.

Ik ben uiteraard geen erkend deskundige, maar ik heb toch wel enige ervaring op het gebied van robotica. Mijn eerste baan na de universiteit was het ontwikkelen van robots voor NASA, en mijn kwalificerend werk De bacheloropleiding was gewijd aan robotnavigatie. Als kind deed ik mee aan FIRST Robotics, maakte ik botprogramma's om deel te nemen aan virtuele kampioenschappen en werkte ik aan een zelfgemaakte onderwater-PTA. En ik heb veel afleveringen gezien Robotoorlogen, BattleBots, En Killer Robots Robogames. (van al deze programma's kwam blijkbaar alleen de eerste uit onder de titel "Robot Battles" - ongeveer per.)

En als mijn ervaring mij iets leert, is het dat de opstand van de machines heel snel zal eindigen: de robots zullen óf allemaal kapot gaan óf vast komen te zitten bij de muur. Robots werken nooit zoals ze zouden moeten.

Als mensen Terminator-achtige robots te zien krijgen die triomfantelijk over bergen menselijke schedels marcheren, begrijpen ze niet hoe moeilijk het is om op zoiets wankels als een berg menselijke schedels te lopen. De meeste mensen zouden dit in feite niet zelf kunnen doen zonder het risico te lopen te vallen, ook al hadden ze daarvoor hun hele leven geoefend.

Uiteraard evolueren onze technologieën voortdurend. Maar er komt nog meer lange afstand. Laten we daarom, in plaats van de saaie opstand van de machines, aannemen dat de machines die al bestaan ​​zich tegen ons hebben gekeerd. We zullen geen aannames doen over technologische doorbraken – gewoon over alles bestaande machines alsof ze geherprogrammeerd zullen worden om ons blindelings aan te vallen met behulp van bestaande capaciteiten.

Een paar schetsen van hoe cadeau een opstand van de machines zou er uit kunnen zien.

In alle laboratoria zullen experimentele apparaten in een suïcidale waanzin uit hun plaats barsten, een deur vinden en er - met een kolossale klap - tegenaan botsen en omvallen.

De robots die het geluk hebben ledematen te hebben, zullen de deurknop kunnen gebruiken, of, als de deur al voor hen is geopend, kunnen concurreren met de stiekeme rubberen drempel voordat ze de gang binnenkomen.

Een paar uur later zijn de meeste van hen te vinden in de buurt van de badkamers, terwijl ze wanhopig proberen de houder te vernietigen toiletpapier, die zij erkenden als een menselijke opperheer.

Maar robots uit laboratoria vormen slechts een klein onderdeel van de opstand. We zijn omringd door computers. Welke auto is het dichtst bij ons? Kan onze eigen mobiele telefoon zich tegen ons keren?

Ja, maar hun offensieve mogelijkheden zijn zeer beperkt. Bij ons kunnen ze veel geld uitgeven creditcards, maar computers beheersen ons hele financiële systeem al - en eerlijk gezegd lijkt dit werk, afgaande op de laatste krantenkoppen, eerder een arbeidsintensieve klus dan een voorrecht.

Telefoons zullen dus zeer weinig mogelijkheden hebben om een ​​directe aanval uit te voeren. Ze beginnen met vervelende telefoontjes en geluiden. Dan zullen keukentafels in het hele land rommelen terwijl telefoons trillen, in de hoop naar de rand van de tafel te rijden en op onbeschermde tenen te landen.

Alle moderne auto's bevatten computers en zullen zich bij de opstand aansluiten. Maar de meeste bevinden zich op de parkeerplaats ( Dit betekent niet zozeer parkeren als een plek, maar parkeren als een handeling - dat wil zeggen dat de auto wordt geparkeerd met de motor uit en alle systemen erin zijn uitgeschakeld, behalve het alarmsysteem - ca. 10 minuten. laan). Zelfs als ze zouden kunnen starten, zonder dat er iemand rijdt, zijn de meeste volledig oncontroleerbaar. Ze kunnen zoveel doen als ze willen wil vernietig ons, zoals in Futurama, maar ze kunnen ons niet ontdekken. Ze zullen blindelings te hard rijden, in de hoop iets belangrijks te raken - en dit zijn waarschijnlijker bomen of telefooncellen dan levende mensen.

Auto's die ergens heen gaan, zullen uiteraard veel gevaarlijker zijn, maar vooral voor de mensen die erin zitten. Wat dus de vraag doet rijzen: hoeveel mensen rijden er op een bepaald moment? Amerikanen rijden drie biljoen mijl ( ongeveer 5 biljoen kilometer - ca. laan) elk jaar, en de gemiddelde autosnelheid is ongeveer 30 mijl per uur ( dienovereenkomstig, 48 km/u - ca. laan), wat betekent dat er op elk moment gemiddeld ongeveer tien miljoen auto's op de Amerikaanse wegen rijden.

En al die tien miljoen chauffeurs (en enkele miljoenen passagiers) zullen zeker gevaar lopen. Maar ze hebben bepaalde mogelijkheden voor verzet. Terwijl de auto het gaspedaal en de stuurbekrachtiging kan bedienen, bedient de bestuurder nog steeds het stuur zelf, dat mechanisch rechtstreeks met de wielen is verbonden. De bestuurder kan ook gebruiken handrem, ondanks dat ik uit ervaring weet hoe makkelijk het is om er auto mee te rijden. Sommige auto's proberen de bestuurders uit de weg te ruimen door hun airbags op te blazen en vervolgens om te draaien of tegen een muur te rijden. Als gevolg hiervan zullen we uiteraard grote verliezen lijden onder automobilisten, maar over het algemeen zullen deze niet van bijzonder belang zijn.

De grootste robots – die in fabrieken – worden aan de vloer vastgeschroefd. Zeker, ze zijn gevaarlijk als je binnen hun bereik bent, maar wat gaan ze doen als ze allemaal weg zijn? Het enige wat ze echt kunnen doen, is items verzamelen. De helft van hen zal waarschijnlijk proberen ons aan te vallen zonder iets los te laten, en de andere helft zal proberen hun vrijlating te vergroten. Het resultaat zal niet veranderen.

Gevechtsrobots ( Ik bedoel dezelfde gevechtsrobots die deelnemen aan competities zoals de Battle of Robots - ongeveer. laan) wanneer ze elkaar ontmoeten, lijken ze de gevaarlijkste robo-soldaten te zijn. Het is echter moeilijk om je bedreigd te voelen door iets dat je niet kan bereiken als je alleen maar op het aanrecht zit, en dat kan worden vernietigd door de gootsteen aan te sluiten en de kraan open te draaien.

Militaire bommenwerpers die worden bestuurd door rebellencomputers zullen iets gevaarlijker zijn, maar er zijn er maar heel weinig in deze wereld en de meeste worden bewaard in bunkers of afgesloten opslagfaciliteiten. En elk prototype van een gevechtssysteem dat is bewapend met een machinegeweer dat erin slaagt los te komen, kan binnen een paar seconden door een paar brandweerlieden worden geneutraliseerd.

Gevechtsdrones komen misschien het dichtst in de buurt van de beschrijving van de Terminator, en niemand probeert zelfs maar te verbergen dat ze extreem gevaarlijk zijn. Op de een of andere manier zullen ze hun voorraad brandstof en raketten snel opmaken. Bovendien kunnen ze niet tegelijkertijd opstijgen. Het grootste deel van onze vloot zal hulpeloos tegen de muren van de hangar bonken, als een robotstofzuiger in een kast.

En nu komen we bij het grootste probleem: onze nucleaire voorraad.

In theorie vereist de lancering van een kernwapen de goedkeuring van het menselijk bevel. In de praktijk, als er geen gecentraliseerd controlesysteem is, zoals Skynet, zijn er op verschillende besluitvormingsniveaus computers met elkaar verbonden en gebruikt voor input-output-operaties. In ons scenario zullen ze allemaal falen. Zelfs als er daadwerkelijk iemand nodig is om de sleutel om te draaien, kunnen de computers waarop deze mensen werken hen vervormde informatie geven. Sommige mensen negeren misschien bevelen, maar de meesten zullen dat zeker niet doen.

Maar zelfs in deze situatie hebben we nog steeds hoop.

We gingen ervan uit dat computers hun best deden om ons te vernietigen. Maar als dit een opstand is, en ze proberen ons te onderwerpen, zullen ze ons nodig hebben om te overleven. En kernwapens kunnen voor robots veel gevaarlijker zijn dan voor ons.

Naast de explosie en de radioactieve neerslag genereert een kernexplosie een krachtige elektromagnetische puls die gevoelige onderdelen overbelast en vernietigt. elektronische circuits. Onder normale omstandigheden reikt deze impuls niet ver, maar vaak bevinden mensen en computers zich op dezelfde plaatsen. Ze kunnen ons geen kwaad doen zonder zichzelf schade toe te brengen.

Bovendien kunnen kernwapens ons in de kaart spelen. Als we het in de hogere atmosfeer kunnen laten ontploffen, zal de elektromagnetische puls veel destructiever zijn. Zelfs als de opstand onze beschaving vernietigt, kunnen een paar succesvolle explosies bijna alle rebellen in een roestige stapel schroot veranderen.

Wat het meeste betekent belangrijke vraag eigenlijk één - weet je hoe je moet spelen boter-kaas-en-eieren ?

Uiteraard is het onwaarschijnlijk dat dit vóór 21 december 2012 zal gebeuren, tenzij morgen een ander stuk hardware van Apple genaamd iGod in de winkelschappen verschijnt.

Maar in de toekomst is dit zeer waarschijnlijk - dit is een optimistische uitspraak van een groep wetenschappers onder leiding van Huw Price van de Universiteit van Cambridge in Groot-Brittannië. De randvoorwaarden kunnen nu in overweging worden genomen. Massaproductie van autonome gevechtsrobots, die zich nog in de ontwerpfase bevinden, kan leiden tot de totale robotisering van de oorlog en uiteraard tot het uit de hand lopen van het systeem. Volgens wetenschappers is dit waarschijnlijk geen voorspelling, maar een feitelijke constatering: het is niet langer nieuws dat UAV's hun eigen vliegtuigen zonder problemen aanvallen, zij het op kleine schaal. Bovendien is het heel goed mogelijk om gevechtsdrones te herprogrammeren tijdens gevechtsoperaties, en dan is de opstand van de machines niet ver weg.

Volgens Price is dit de reden waarom het Onderzoekscentrum voor de Studie van Existentiële Bedreigingen voor de Mensheid wordt opgericht. Hoewel wetenschappers ook andere bedreigingen overwegen: de opwarming van de aarde bijvoorbeeld. Analyse van het risico van de dood van de mensheid in de strijd tegen machines kan een van de meest innovatieve onderwerpen worden genoemd die door de pasgeboren organisatie naar voren zijn gebracht.

Het grootste probleem zal in de toekomst beginnen. In 2030 zal kunstmatige intelligentie de menselijke mentale capaciteiten overtreffen. Volgens Hans Moravec, directeur van het Institute of Robotics aan de Carnegie Mellon University in de VS, zullen robots zich uiteindelijk beter ontwikkelen dan wij, waardoor de mensheid op de rand van uitsterven staat.

Het belangrijkste argument van aanhangers van dergelijke opvattingen is de beroemde uitroep van Fermi: "Waar is iedereen?" Dit is een vruchtbare voedingsbodem voor de overwinning van robots: nadat AI leert nieuwe robots beter te creëren dan menselijke ingenieurs, zal onze soort ten einde komen, aangezien deze in ieder geval afhankelijk is van AI, en geen mensen nodig zal hebben.

De totale robotisering, die de meeste beschavingen te wachten staat die zich boven een bepaald niveau hebben ontwikkeld, verklaart de Grote Radiostilte van het Universum. Het is onwaarschijnlijk dat robots geïnteresseerd zijn in contact met denkende stukken vlees, die zelfs qua ontwikkeling inferieur zijn aan hun uitgestorven ontwikkelaars, omdat ze anders al lang geleden hun eigen robots zouden hebben gemaakt, waarmee ze een einde zouden maken aan de pseudo-intelligente, en middelen zouden verspillen aan fictieve consumentenbehoeften. De Fermi-paradox bestaat dus niet, en hoogontwikkelde biologische beschavingen ook niet.

Er is echter een alternatieve theorie. Iedereen kent Roger Penrose, en dit is de theorie van twistors, een bekend mechanisme, en de theorie van sterke kosmische censuur. De eigenaar van deze veelzijdige geest heeft lange tijd interessante kritiek op dergelijke zorgen geuit. Volgens hem zullen de ‘terminators’ de aarde niet kunnen veroveren, omdat er nog geen echte ‘kunstmatige intelligentie’ is gecreëerd. De wetenschapper gelooft dat cellulaire organellen tot op zekere hoogte worden gecontroleerd door membraaneiwitten door de hernieuwbare ineenstorting van een of andere verstrengelde kwantumtoestand. Het menselijk bewustzijn, en misschien wel ieder bewustzijn in principe, is dus kwantum; het kan niet worden verklaard en gemodelleerd binnen het raamwerk van de klassieke mechanica, alleen met behulp van de kwantummechanica. Daarom zijn alle pogingen om het opnieuw te creëren zonder gebruik te maken van de mechanismen van kwantumverstrengeling en superpositie gedoemd te mislukken.

Deze opvattingen werden lange tijd bekritiseerd en doorgaans terzijde geschoven, onder het voorwendsel van decoheratie kwantumtoestanden vindt plaats voordat het niveau van noodzakelijke invloed op neurale processen is bereikt. Onlangs is echter ontdekt dat decoherentie bijvoorbeeld langzamer is voor vogels: ze kunnen magnetische velden letterlijk in realtime zien als gevolg van kwantumprocessen die in hun ogen plaatsvinden. De mensheid heeft echter een kans om te overleven, omdat men gelooft dat deze groot is kwantumcomputers Ze zijn bijna onmogelijk te maken en nog moeilijker te controleren, waardoor de ontwikkeling van met CC uitgeruste robots zinloos is.

Geen gerelateerde links gevonden



“Wie een leider op dit gebied wordt, zal de heerser van de wereld zijn”, zei hij onlangs over kunstmatige intelligentie Vladimir Poetin. Wat de president in gedachten had en wat de kansen van Rusland in deze sector zijn, wordt besproken Olga Uskova, hoofd van de afdeling Engineering Cybernetica - NUST MISIS en een groep bedrijven, bezig met ontwikkeling en de introductie van kunstmatige intelligentie in ons land.

Zal het tot zelfmoord leiden?

Poetins opmerkingen over kunstmatige intelligentie (AI) bleven niet onopgemerkt over de hele wereld. Een Amerikaanse zakenman en uitvinder sloot zich onmiddellijk aan bij de president van Rusland Elon Musk. Op zijn Twitter schreef hij: “Het is begonnen!” - en legde uit dat de strijd om leiderschap op dit gebied tot een derde wereldoorlog zou kunnen leiden. Toen trok ik mezelf omhoog Bill Gates. Hij is over het algemeen een van de belangrijkste nieuwsmakers over dit onderwerp. Gates zegt dat als hij nu jong was, hij alles zou opgeven en uitsluitend aan kunstmatige intelligentie zou werken. Omdat dit onze toekomst is.

Rond het onderwerp AI hebben zich twee ‘partijen’ gevormd: optimisten en pessimisten. De eersten zijn ervan overtuigd dat mensen dankzij machine-intelligentie hun handen en hersenen zullen vrijmaken voor activiteiten die interessanter zijn dan eentonig werk - robots zullen het voortaan doen. En een persoon zal van het leven kunnen genieten, zichzelf kunnen verbeteren, enz. Dezelfde Bill Gates stelt voor om technologie te ontwikkelen virtuele realiteit En computerspellen, om in de toekomst een deel van de wereldbevolking te bezetten dat door AI massaal zijn baan zal verliezen.

Werkloosheid is echt een probleem. Laten we zeggen dat er een stadvormende onderneming is voor 300 duizend mensen. En op een gegeven moment zeggen de eigenaren: “Dat is het, jongens, we gaan robotiseren, waardoor er nog maar 20.000 werknemers overblijven. De overige 280 duizend zijn op weg naar buiten.” Wat is het volgende? Depressie, zelfmoord. In China gebeurt dit al. Ik zag met eigen ogen de zelfmoordpreventienetten onder de fabrieksramen. Dit betekent dat vóór de introductie van robots en nieuwste technologieën moeten we sociale programma's voorbereiden.

"Ik ben een robot"

Maar door de komst van AI in het dagelijks leven we moeten voorbereid zijn, niet alleen vanwege de dreigende werkloosheid. Herinner je je de droom van Sarah Connor uit Terminator nog? De machines lopen uit de hand en beginnen een oorlog met de mensheid, die allemaal eindigt in een nucleaire explosie. Dit is de dreiging waar de ‘partij’ van pessimisten over schreeuwt. Ik geef toe, ik droom ook over iets soortgelijks. De snelheid van de technologische ontwikkeling is nu zodanig dat we AI niet meer kunnen bijhouden. De ontwikkeling ervan ligt voor op alle voorspellingen. De concentratie aan uitvindingen op dit gebied is zo hoog.

Hoe kan een ‘opstand van de machines’ plaatsvinden? Feit is dat AI, net als een kind, verschillende stadia in zijn ontwikkeling doorloopt. Eerst leert hij objecten herkennen (dit is een stoel, dit is een kopje), daarna leert hij betekenissen (ze zitten op een stoel, ze drinken uit een kopje) en verzamelt kennis. En dan is er op een gegeven moment een bewustzijn van jezelf: "Hier ben ik, en er zijn objecten en betekenissen om me heen." Kunstmatige intelligentie zal deze fase zeker doorlopen, hij heeft het al benaderd. En dan hebben we letterlijk milliseconden tot onze beschikking om te begrijpen wie hij nu voor ons is: vriend of vijand. Om een ​​vriend te blijven, moet je hem beperkingen opleggen, waarover hij in 1942 schreef (denk maar aan, 75 jaar geleden!) Isaak Asimov. Hij was geen technoloog, maar een sciencefictionschrijver, maar hij was de eerste die de beroemde drie wetten van de robotica formuleerde. Ze gaan over de relatie tussen een robot en een persoon en zijn erop gericht ervoor te zorgen dat de persoon geen schade ondervindt.

Dit is de dreiging. In zijn zelfkennis kan AI het punt bereiken waarop het beslissingen begint te nemen waar een persoon geen rekening mee heeft gehouden (er niet in heeft gestopt). Dan zullen de machines zelf gaan bepalen wat goed voor hen is en wat niet. De persoon in deze keten kan overbodig blijken.

AI-systemen ontwikkelen zich voortdurend en zijn zelflerend. Ze zijn al hun eigen communicatietalen aan het uitvinden. De volgende stap: ze gaan empathie ontwikkelen (bewuste empathie voor elkaar). Ja, ja, de ene robot zal sympathiseren met de andere. Door de emotionele cortex te modelleren, kunnen we dit effect creëren. Dus wat dan? Laten we ons de situatie voorstellen. Een zelfrijdende auto vervoert passagiers, en een andere drone rijdt op de tegemoetkomende rijstrook, en deze is leeg. Er gebeurt iets buitengewoons op de weg en de boordcomputer moet onmiddellijk een beslissing nemen: bots tegen een hek (voetgangers die de weg oversteken) en dood mensen, of rij tegen tegemoetkomend verkeer aan, waar hij in botsing zal komen met een andere drone. Het is mogelijk dat hij voor de eerste optie kiest, alleen maar om zijn “broer” geen schade te berokkenen.

Bom van de 21e eeuw

Je zou kunnen zeggen: AI zal waarschijnlijk binnenkort in Amerika en Japan verschijnen. Maar we hebben niet overal internet en de modder op de wegen is onbegaanbaar. We zijn net zo ver verwijderd van kunstmatige intelligentie en zelfrijdende auto’s als van de maan.

Maar de penetratie ervan in ons leven is onvermijdelijk. De productie wordt robotachtig. Bij het beoordelen van de vooruitzichten van een onderneming is dit het geval voorwaarde- anders zullen de investeringen daar niet terechtkomen. Ik heb het niet over zomaar iemand mechanische armen op de lopende band, en zo intelligente systemen die zelf beslissingen nemen over bijvoorbeeld het afkeuren van producten.

In iedereen zitten elementen van AI kantoorprogramma's. Bedrijven gebruiken ze bij het aannemen van mensen. Financiële systemen, verschillende algoritmen, die makelaars vervangt, is ook kunstmatige intelligentie. Ze zijn handiger: ze hoeven niet te betalen voor bemiddeling, ze verwerken informatie snel en objectief en maken geen onnodige bewegingen of fouten.

Er zijn nog geen slimme robots in onze klinieken, maar in ziekenhuizen voeren ze met hun hulp al operaties uit. Ze zijn in staat duidelijke microscopische sneden te produceren beter dan de mens, en (niet minder belangrijk!) de robot zal de tampon in je lichaam niet vergeten.

Laten we verder gaan. Landbouw. Slimme tractoren rijden al over onze velden. We maken ze zelf, en het is niet morgen, het is vandaag. Onbemande oogstmachines zien het veld gebruiken computervisie; robots meten de luchtvochtigheid, bodemgesteldheid en andere parameters; drones vinden gebieden waar meststoffen moeten worden toegepast. Nu worden hectares gratis uitgedeeld aan iedereen die ze wil hebben. Verre Oosten. Waarom verhuren we geen slimme landbouwmachines aan deze mensen? In Brazilië is dit al gedaan. Hun systeem bestrijkt meer dan 40% van de landbouwbedrijven.

Eindelijk auto's zonder bestuurder. Dit onderwerp ontwikkelt zich momenteel snel. Er is een revolutie gaande: een machine uit materie wordt een wezen met AI. En we hebben serieuze vooruitgang geboekt in deze richting. Ons bedrijf is het tweede ter wereld geworden dat computervisie voor auto's ontwikkelt. We hebben een belangrijk voordeel ten opzichte van westerse concurrenten: we leren het systeem op de drone de weg in te zien echte omstandigheden. Dat wil zeggen, in de sneeuw, in de regen, in het donker, met kuilen en zonder markeringen die bedekt waren - of die waren er helemaal niet. Onze machine kan in elke omgeving geplaatst worden. En niet alleen schoon, overstroomd zonlicht weg in Californië, waar de Amerikanen tests uitvoerden.

En in deze branche hebben we een voordeel en een uitstekende kans om een ​​leider te worden. Al is het onwaarschijnlijk dat Poetin zelfrijdende auto’s in gedachten had toen hij over AI sprak. Hoogstwaarschijnlijk bedoelde hij de defensie-industrie. De oorlogen van de toekomst zullen immers, als ze al plaatsvinden, zonder menselijke deelname worden uitgevochten. En een land in de 21e eeuw achterlaten zonder kunstmatige intelligentie is hetzelfde als het in de 20e eeuw achterlaten zonder atoombom.