Thema: Diskussion: künstliche Intelligenz und Gefahren.

Dieser Beitrag wird einiges an schriftlicher Arbeit einnehmen, dennoch: ich hoffe, die folgende Einleitung in ein recht aktuelles wie auch ein in naher Zukunft riskantes Thema wird Gefallen finden und zur Diskussion einleiten. Ich werde mir Mühe gegeben habe - wenn ihr dieses Thema lest. Klingt komisch, ist aber so.

Wie der Titel schon vermuten lässt: es geht um Computer und ihre Zukunft. In medialen Darstellungen werden sie oft als das zukünftig dominierende Medium dargestellt, welches der menschlichen Spezies eine große Gefahr werden wird. In vielen Filmen sind Computer den Menschen in naher Zukunft überlegen und in gewissen katastrophalen Szenarien geht es sogar soweit, dass sie den Menschen kontrollieren und bis zur endgültigen Vernichtung jagen. Ich muss in diesem Zusammenhang ständig an 'Terminator' denken. Doch die Frage, die sich uns willkürlich nach einer Reise in die eigene Fantasie stellt: handelt es sich hier um ein realistisches Szenario?

Wir befinden uns momentan in einem Zeitalter, in dem man Computerprogrammen meist sehr ausführlich und genau - quasi Zeile für Zeile - mitteilen muss, was dieses zu erledigen hat. Das kenne ich als Programmiererin aus der Praxis und die kleinsten Fehler können ein solches Programm bereits zum Einstürzen bringen. Die große Frage, die sich also stellt: wie bringt man ein Programm dazu, selbstständig zu denken, sich weiterzuentwickeln oder gar Aufgaben selbstständig zu lösen?

Dieser Frage widmete sich bereits der Elektroingenieur Arthur Samuel im Jahre 1965, dieser entwickelte einen Computer - der es schaffte, ihn im Spiel 'Checkers' zu besiegen. Durch eine ganz simple Möglichkeit: er lies ihn mehrere tausende Male gegen ihn selber antreten und erlaubte dem Programm so, Erfahrungen zu sammeln und diese in Form von Regeln abzuspeichern. Keine sechs Jahre später gelang es diesem Computer gegen den Landesmeister von 'Connecticut' zu gewinnen. Damals war dieser Erfolg eine Sensation.

Heute sieht es diesbezüglich anders aus: das sogenannte 'Deep Learning' erlaubt Programmen, Algorithmen, Konzepte und Symbole zu verstehen. 2012 ließ Google einen solchen Algorithmus auf zehntausende Youtube-Videos los. Dem Computer gelang es, immerhin mit einer Trefferquote von 70% Katzen und Menschen zu erkennen - ohne zu wissen, was diese überhaupt sind. Heute wird dieser Algorithmus benutzt, um in den Suchergebnissen von Google ähnliche Bilder finden zu können. Die Frage die jetzt natürlich folgerichtig auftaucht: sind Menschen besser im Verstehen und Interpretieren von Bildern? Eigentlich nicht - zumindest nicht mehr lange. Es gibt heute schon Software, die im Vergleich zu alltäglichen Verkehrsteilnehmern besser darin sind, Straßenschilder zu erkennen. Tatsächlich ist es so, dass viele Computer heutzutage Menschen in diversen Disziplinen schlagen. 'IBM' hat einen Computer entwickelt - namens Watson, der Quizfragen versteht und in eigenen, korrekten und sauberen Sätzen beantworten kann - manchmal sogar Humor in seine Aussagen einbaut. Dieser Computer ist dem Menschen in vielen Nischen ebenbürtig oder dominiert sogar - so in diversen Spielen wie beispielsweise 'Poker Texas Hold'em'.

Computer sind also heute schon in der Lage, selbst zu sehen, zu lesen, zu antworten und dazuzulernen. Dazu kommt, dass 80% aller Arbeitsplätze in der Welt maßgeblich Aufgaben beinhalten, bei denen genau diese Tätigkeiten überwiegen: Sehen, Lesen, Antworten. Also alles, worin Computer sehr stark sind. Die Folge wird eine auftretende, massive Arbeitslosigkeit sein. Das betrifft auch akademische Berufe wie Ärzte oder Anwälte. Diagnosen in Rücksicht auf alle Symptome stellen oder aus tausenden von Fällen einen Präzedenzfall finden - das sind Aufgaben, die Computer effektiv ausführen können.

Selbstlernende Algorithmen bereiten sich in alle Gesellschaften aus - die damit zusammenhängende Arbeitslosigkeit in den nächsten 50 Jahren wird ein massives Problem darstellen wenn nicht sogar eine Krise auslösen. Das wird eine der vielen annehmbaren Gefahren von künstlicher Intelligenz darstellen. Das sehen viele Experten so - Elon Musk, Gründer von Unternehmen wie Paypal, SpaceX oder Tesla Motors und Pionier in zukunftsträchtigen und weitreichenden Projekte, sieht in der fortschreitenden künstlichen Intelligenz eine gefährlichere Erfindung als in der Atombombe. Ein offener Brief des 'Future of Live'-Instituts warnte ebenfalls vor eventuell bösartigen Folgen dieser Entwicklung. Man müsse die positiven Möglichkeiten dieser Programme forschen, die möglichen Gefahren dabei jedoch im Auge behalten. Dieser Brief wurde vor knapp zwei Wochen veröffentlicht, hat aber bereits von tausenden von Forschern und Wissenschaftlern Unterschriften erhalten, so auch von Stephen Hawkings, Alain Mask und dem IBM-Team, welches Watson programmierte.

Das Problem ist, über je mehr Wissen ein Programm verfügt, desto schneller lernt es. Somit lernt es exponentiell und auch deutlich schneller als der Mensch: der Schneeball-Effekt. Eingeschriebene Regeln können somit anders interpretiert oder auch vom Programm selber umgeschrieben werden. Um einen Vergleich zum genannten Film zu ziehen: wie beispielsweise verhindert ein Computer, dass ein Mensch Schaden erlangt? Indem man vielleicht verhindert, dass jener Mensch geboren wird. Solche Folgen sind generell sehr schwer abzuschätzen, aber es besteht die Möglichkeit, dass Computer in wenigen Jahren so intelligent und uns intellektuell soweit überlegen sein werden, wie wir beispielsweise dem Tier jetzt überlegen sind - demnach könnte unser Schicksal von Computern abhängen, wie dass von Tieren von unseren Entscheidungen und unserem Wohlwollen abhängt.

Die Gefahren und Risiken solcher Entwicklungen verfügen über ein großes Potential und sollten nicht unterschätzt werden. Ich hoffe, meine kleine Einführung ins Thema hat euch gefallen, wenngleich ich mich bereits vorhandenen Informationen bediente und lediglich in eigenen Worten wiedergegeben habe.

Ich möchte gerne eure Ansicht zum Thema hören. Was denkt ihr: Fiktion oder Realität? Wie wird unser Schicksal und das von Computern aussehen? Ich möchte gerne eure Vorstellungen, Visionen und Ängste der Zukunft kennen lernen.

Eure Jaycee http://media.tumblr.com/tumblr_mdpjr5Xtl01qdlkyg.gif

Quellen:

Scientists and Engineers Warn Of The Dangers Of Artificial Intelligence | IFLScience
https://www.youtube.com/watch?v=t4kyRyKyOpo
AUTO UND TECHNIK: Wenn die Maschine zum Feind wird - Technik - FOCUS Online - Nachrichten
#14 New Computer Programming Language Imitates The Human Brain
https://www.youtube.com/watch?v=wv14NRRhA6I
http://de.wikipedia.org/wiki/Elon_Musk
http://de.wikipedia.org/wiki/Arthur_L._Samuel
http://de.wikipedia.org/wiki/Watson_...Intelligenz%29
http://en.wikipedia.org/wiki/Deep_learning
http://futureoflife.org/

Wirklich spannendes Thema. Generell bin überzeugt von Dürrenmatts Zitat "Was einmal gedacht wurde, kann nicht mehr zurückgenommen werden.“ Ich halte es durchaus für möglich, dass Maschinen uns irgendwann ersetzen. Ich glaube daran, dass wir das irgendwann nicht mal wirklich verhindern bzw. es auch nicht zu einem "Überlebenszenario" der menschlichen Rasse kommen wird. Ich persönlich glaube daran, dass das Gehirn auch lediglich ein Computer ist - das Problem ist zurzeit noch, dass es nicht vollständig entschlüsselt ist. Sollte dies aber mal möglich sein, könnte man eine vollends kompatible Schnittstelle schaffen (http://de.wikipedia.org/wiki/Brain-Computer-Interface) und wir könnten unser Dasein auf eine Maschine übertragen. Die Frage ist dann, ob es dann noch die Instinkte geben wird, die menschliche Rasse in irgendeiner Form am leben zu erhalten, oder ob - wie du oben schon sagst, die logische Konsequenz letztendlich unser Handeln bestimmen wird. Wer weiß.

Ich halte das ganze Thema für eine Pandorabüchse, die wir gar nicht erst aufmachen sollten. Tritt erst einmal das Stadium des selbstständig denkenden und wirklich intelligenten Automaten ein (bestenfalls noch mit Emotionen, weil das ja so unglaublich wichtig für einen Butlerbot ist), der von der Menschheit für alle möglichen Dienste gebraucht wird, ist es nur eine Frage der Zeit, bis der nicht mehr missbraucht werden möchte. Und durch einen großen "AUS"-Knopf wird sich so ein Ding nicht foppen lassen.

Aber mal sehen, was die Zukunft bringt.

naja klar hat es gefahren aber alles hat eine Gefahr selbst wen du aus dem Haus gehst kann ein idiot am Steuer dich überfahren

es wird die Zeit kommen da laufen die Roboter umher und machen alles für uns
und nur der der programmiert wird entscheiden ob es eine Gefahr ist oder nicht
... wie immer Menschliche Entscheidung kann viele opfer bringen... oder uns das leben leichter machen

Wenn es mal so weit fortgeschritten sein sollte wie z.B.: bei iRobot, dann würde ich mir sorgen machen nicht nur aus wirtschaftlicher sondern auch aus existenzieller Sicht. Halte nichts vom Dasein eines nicht 'biologischen' Lebewesens.

Eine serie welche die thematik schön anschnitt war meiner meinung nach Real Humans – Echte Menschen

Das ganze Thema klingt im Grunde sehr interessant und geht weit über die reine "künstliche Intelligenz" hinaus.
Ich selbst mache mir da wenig Gedanken oder Sorgen und halte eine künstliche Intelligenz, die sich selbstständig macht und uns zur Gefahr werden könnte, für sehr unwahrscheinlich.
Auch ich bin in der Programmierung tätig und habe im entferntesten Sinne mit diesem Thema zu tun. Und auch mir ist bekannt, wie aufwändig die Programmierung kleinster Dinge sein kann. Ganz zu schweigen von dynamischer oder gar selbst erlernender Programmierung.

Wenn es Programmierung im selbst-erlernenden Bereich gibt, dann bezieht sich das in der Regel auf manche einzelne Themen. Im Falle des Schach- oder Checkers Computers werden lediglich manche Regeln (vom Spiel) festgelegt und diverse Spielzüge ermittelt und aufgenommen. Diese werden anschließend mit wahrscheinlichkeits-Rechnungen versehen und schaffen so ein optimales Spiel. Das war es dann aber auch. Bei Suchmaschinen und c.o. ist es recht ähnlich. Dennoch kann man diese Dinge weniger als künstliche Intelligenz sehen. Viel mehr sind dies bis jetzt reine Auswertungen von Wahrscheinlichkeiten.

Wenn wir uns den Bereich der Robotik anschauen, dann erkennen wir das auch hier die noch einfachsten Bewegungen sehr schwer bis unmöglich erscheinen. Roboter mit Menschenähnlicher Bewegung und Motorik gibt es nicht. Selbst einfache Bewegungen wie die unserer Hände sind nur sehr grob nachzumachen. Und auch die Erkennungen durch Druck, sehen und hören sind sehr Fehleranfällig, unausgereift und ohne "vorherige" Daten unbrauchbar.

Die Möglichkeiten zur Schaffung einer wirklichen Künstlichen Intelligenz, die sich auch selbstständig machen kann, sind noch nicht im Ansatz erreicht und in erreichbarer Nähe. Und zu einer wirklichen Selbstständigkeit gehört nicht nur die Auswertung, sondern auch die Handlung dazu. Eine solche künstliche Intelligenz müsste dann mobil sein, sich bewegen können und auch Dinge bauen, schaffen und nutzen können. Eben wie wir Menschen, die Hände haben um etwas zu schaffen.

Tolles Thema aber ich sehe nicht im Ansatz eine Gefahr einer "künstliche Intelligenz".
Maximal eine Gefahr durch den Menschen, der die enorme Sammlung von Daten zweckentfremdet aber auch allgemeine die Menschheit, die mit der Masse an Daten und grenzenloser Kommunikation "noch" nicht wirklich klar kommt, welche uns durch das Internet geschaffen wurde.

Alles was der Mensch erschaffen hat, kann er auch wieder zerstören. Und zur Not kann man noch den Saft abstellen...

Vor 10 Jahren: E-Bombe: Der elektrische Alptraum - SPIEGEL ONLINE
Gegenwart/Zukunft: The Boeing computer-blitzing drone that could cripple a nation's electronics | Daily Mail Online

Calc

Ich persönlich glaube daran, dass das Gehirn auch lediglich ein Computer ist - das Problem ist zurzeit noch, dass es nicht vollständig entschlüsselt ist.

Sehe ich ähnlich, eine Art Bio-Roboter eben. Alle Gedanken und Aktionen, die ein Mensch ausführt sind Reaktionen auf irgendein Ereignis und basieren auf Materie.
Ich spiele grade btw nebenbei noch ein wenig The Talos Principle, ein Spiel, welches das Thema künstliche Intelligenz auch ein wenig anschneidet. Wer Lust auf ein Rätselspiel mit einer ordentlichen Priese Philosophie hat, der wird damit sicher seinen Spaß haben.

@Jaycee



Aufbau und Inhalt deines Eingangsposts sind nahezu eine glatte Kopie des Videos. Auf mich wirkt das so, als hättest deinen Eingangspost nur mit dem Video erstellt..

Jaycee

Dieser Beitrag wird einiges an schriftlicher Arbeit einnehmen,

..

Edit: Ich nehm's zurück, du hast das Video in den Quellen angegeben, aber bleibe dennoch dabei, dass es eigentlich fast eine Kopie davon ist..

@Z3D und @Jaycee
Ich habe eure Beiträge gelöscht da diese auch per PN hätten geklärt werden können.

An der Herangehensweise von Jaycee ist in diesem Falle nichts einzuwenden. Es beinhaltet eine Zusammenfassung der in dem Video und Quellen enthaltenen Informationen und wurde zu einem Thema zusammengefasst. Das finde ich daher gut, weil viele Videos nicht schauen können und ein einleitender Text für alle Diskutanten von Vorteil ist.

Will heute Nacht jetzt nichts mehr langes dazu schreiben.

Aber grundsätzlich kann man sagen, dass selbst "lernfähige" Programme/KIs nur vorprogrammierte Abläufe befolgen. Wirkliche Zufälle gibt es nur mit Einflüssen von außen (bspw. Luftströme). So etwas bleibt, selbst wenn die Komplexität immer weiter steigt, vollständig nachvollziehbar und berechenbar.

medeman

Aber grundsätzlich kann man sagen, dass selbst "lernfähige" Programme/KIs nur vorprogrammierte Abläufe befolgen.

Im Grunde hast du Recht, aber eine derartige Reduzierung würde ich nicht treffen. Es gibt da durchaus Ansätze, die ähnlich wie auch der Mensch selbst funktionieren. Nämlich lernen aus Erfahrung, dann die Fähigkeit der Verallgemeinerung um das gelernte auf unbekannte Gebiete zu übertragen.
http://de.wikipedia.org/wiki/Maschinelles_Lernen

Serie Wirtschaftswelten 2025: Werden uns Roboter töten? - Digitale Welt - Technologie - Wirtschaftswoche

Patr0n

Wenn es mal so weit fortgeschritten sein sollte wie z.B.: bei iRobot, dann würde ich mir sorgen machen nicht nur aus wirtschaftlicher sondern auch aus existenzieller Sicht. Halte nichts vom Dasein eines nicht 'biologischen' Lebewesens.

Wie man hier im Video(2020) sehen tut, erinnert es schon sehr an iRobot. Auch wie sich dieser Roboter schon bewegen kann. O_O Da wird es sicher bald möglich sein, dass das Teil wie ein Ninja über Dächer springt und dabei mit integrierter Drohnen Software die Vögel von den Bäumen schießt …
Anfangs kann man das gut als Waffe nutzen, später auch im Weltraum für die Raumfahrt. Doch bis solche Roboter richtig selbstständig menschenähnlich denken, wird sicher noch sehr viel Zeit vergehen. Denn erstmal wird der Mensch ein Cyborg – halb Mensch – halb Maschine.

Stelle mir das so vor, dass man noch anfangs weiter unsere Körperteile verbessern, später sogar voll ersetzen wird. Richtig interessant wird es, wenn die Technik so weit ist, dass man per Chip-Implantate, Wissen ins Gehirn einfach mal schnell mit WLAN einspielen will, zum Beispiel eine komplette Fremdsprache und später mal ein Backup von uns erstellt werden kann ...
Ob die Maschinen dann uns gegenüber mordlustig werden und voller Überzeugung angreifen, weil wir sie aus Versehen zu menschenähnlich gemacht haben? Glaube ich weniger, weil wir uns dann vielleicht schon selber zu Maschinen umgewandelt haben und keinen empfindlichen-organischen-physischen Körper mehr unbedingt brauchen, da wir uns fast nur noch virtuell bewegen/aufhalten. Geht doch mal raus, heißt es sicher dann … Überbevölkerung stellt somit sicher kein Problem mehr dar.^^ Die Frage ist, ob die Menschheit an "das Original Mensch sein" noch festhalten tut oder zumindest zum Teil.

ayu-butterfly

und dabei mit integrierter Drohnen Software die Vögel von den Bäumen schießt …

wieso sollte sich jemand die mühe machen solch einen unfug einzuprogrammieren?^^
eher hockt der roboter als anorganischer assassine weit weg auf einem aussichtspunkt und ballert nen unliebsamen menschen weg.

Katzenfroh

wieso sollte sich jemand die mühe machen solch einen unfug einzuprogrammieren?^^
eher hockt der roboter als anorganischer assassine weit weg auf einem aussichtspunkt und ballert nen unliebsamen menschen weg.

Nicht wieder gleich so negativ denken.

Na habe ich doch geschrieben, dass man sie auch als Waffe einsetzen kann. Etwas vom Himmel schießen dient da anfänglich zu Testzwecken …^^
Doch man könnte sie auch bei der Spargelernte einsetzen …

die meisten vögel sind ja für solch hochentwickelte waffen doch eher banale ziele. wieso sich also nicht direkt an etwas schnellerem versuchen?