1Autonome Systeme (AS) stellen eine Form technischer Mittel dar, die in wesentlichen Hinsichten von klassischen Mitteln abweichen. Sie lassen sich nach unterschiedlichen Kriterien sortieren, wie Christaller et al. (2001) am Beispiel von Robotern zeigen (etwa nach Autoritäts- und Freiheitsgraden oder nach Nutzungsformen). Die Besonderheit von AS wird deutlich, wenn man – mit Blick auf den Gegensatz zu heteronomen Systemen – die Möglichkeiten der Kontrolle bedenkt, welche sich über verschiedene Formen technischer Systeme ausüben lassen. Diese hängen einerseits von der Struktur, andererseits vom jeweiligen Einsatz des Systems ab. Eine Einteilung technischer Systeme wird – wie bei Taxonomien üblich – zweckrelativ sein und sich auf eine Beschreibung der Systeme beziehen. So ließe sich etwa folgende, durchaus gängige Einteilung angeben (die, wie zumeist in solchen Fällen, fließende Übergänge und Mischformen aufweisen kann):

1. Instrumentalisierung: Vollständige oder starke Kontrolle wird dann vorliegen, wenn sowohl die Definition der Zwecke als auch die Verwendung der Mittel vollständig – oder zumindest im Wesentlichen – in den Händen des Nutzers liegt; das Mittel ginge in seinem Gebrauch auf. Exemplarisch kann hier an Hammer, Wagenheber oder ein Auto (älteren Typs) gedacht werden. Mit einem solchen starken Konzept von Kontrolle ist ein entsprechendes Verständnis von Störung verbunden, da die Definition der Zwecke ausschließlich auf Seiten des Nutzers liegt. Dies bedeutet, dass hier der Ausdruck Störung im Wesentlichen unter Bezug auf die Zwecke definiert wird.1
2. Maschinisierung: Die Vollständigkeit der Kontrolle kann mit der Komplexität der Systeme abnehmen. Schon bei modernen Autos – welche mit zahlreichen, computergestützten Teilsystemen ausgestattet sind – kann von Kontrolle im ersten Sinn nicht mehr die Rede sein, wiewohl immerhin Überwachung durch den Nutzer stattfindet. Der Nutzer wahrt zwar die Zwecksetzungsautonomie vollständig, gibt aber die Kontrolle über die Zweckrealisierung (und damit über die Mittel) zumindest teilweise auf. Hierher gehören alle Systeme, deren Strukturen hinreichend komplex sind (wie etwa Autos mit Fahrerinformations- oder Warnsystemen). Die Identifizierung von Störungen ist hier grundsätzlich der Situation in 1. ähnlich. Allerdings werden jetzt – der Komplexität der Mittel entsprechend – erhöhte Anforderungen an die „richtige“ Verwendung gestellt. Dies kann sich in einer entsprechenden Erhöhung des Diagnoseaufwandes ausdrücken, welcher selber zu einem Teilaspekt der Optimierung des Systems werden kann. Die Feststellung der Störung des Systems kann dementsprechend nicht mehr unter Bezug auf die Nutzerzwecke allein erfolgen.2
3. Automatisierung: Automatisierte Systeme liegen dort vor, wo definierte Funktionen durch ein System exekutiert werden, ohne dass ein Nutzer unmittelbar kontrollierend oder überwachend eingreift. Hierher gehören einfache Automaten wie etwa Aufzüge und Thermostate, aber auch komplexere Systeme wie automatische Schienenfahrzeuge. Am Beispiel des Automobils können hier solche Systeme genannt werden, welche über autonomisierte Teilfunktionen wie etwa automatische Gangschaltung und Temporegler verfügen. Die Zwecksetzungsautonomie zieht sich in solchen Fällen immer stärker auf die Angabe von Steuerungsparametern zurück (abgesehen von obligater Resteingriffsmöglichkeit), während die Realisierung der (Unter-)Zwecke zusehend dem System überlassen bleibt. Die Störungsdefinition wird sich nun von der Beurteilung des Mitteleinsatzes im engeren Sinne entfernen und nur noch auf die Gesamtfunktion des automatisierten Teilsystems beziehen. Bis auf Ausschlusskriterien (etwa Vermeidung von Beschädigungen der Umgebung) ist die Beurteilung der Funktion am Oberzweck orientiert. Ersichtlich hat eine solche Reduktion der Überwachung die Übernahme der Überwachungsfunktion als Teilfunktion des Systems selber zur Folge. Die Überwachung der Teilrealisierung der vorgegebenen Zwecke wird zur Funktion des Systems. Dadurch reduziert sich die Identifizierung von Störungen entweder gänzlich auf die Orientierung am Oberzweck oder wird – nur mit Blick auf die tatsächliche Nutzung – Gegenstand eines Aushandlungsdiskurses.3
4. Autonomisierung: Autonome Systeme im engeren Sinne sind schließlich solche, bei welchen nicht nur fixierte Funktionen ohne Intervention des Nutzers ausgeführt werden, sondern das System selbst in gegebenen Kontexten sowohl die auszuführenden Funktionen als auch die Formen ihrer Ausführung bestimmt. Während der „automatische Highway“ – bei welchem der „Fahrer“ eben diese Funktion vollständig verliert und nur noch die Zielangabe behält, die gesamte Verkehrsorganisation aber beim System verbleibt – noch in den Bereich der Technikvision gehört, findet der Bau adaptiver Systeme durchaus schon statt. Wiederum handelt es sich um ein Spektrum mit unscharfen Grenzen. Dabei kann der Nutzer selber als Element der Systemumgebung angesehen werden, sodass in Interaktionen mit dem System die jeweiligen Zwecke identifiziert und die Mittel der Realisierung festgelegt werden können. Das System wäre dann nicht nur als adaptiv, sondern auch als lernend oder gar planend zu bezeichnen, da es weitgehend auch auf der Mittelwahlseite selbstständig agierte. Solche „entscheidenden“ Systeme bleiben gleichwohl an Zielfunktionen orientiert (etwa die Minimierung der Strecke beim Ausweichen von Hindernissen). Die Autonomie bleibt – durch die Bestimmung des Systems als eines technischen – in letzter Konsequenz immer heteronom (hinsichtlich der Zweckbestimmung), da ansonsten der Mittelcharakter aufgehoben würde. Die Steuerung des Systems und seine Kontrolle werden zusehends zur Funktion des Systems selber; dies reduziert die Unterscheidung von gestörten und ungestörten Systemen auf den Bezug zum Oberzweck und gibt damit der Möglichkeit Raum, den Grad der Störung zum Gegenstand der Interaktion mit dem System zu machen.

2So avanciert also auch immer die Leistungen technischer Systeme zu sein scheinen, sie bleiben doch als technische in der logischen Grammatik von Mitteln, Werkzeugen und Medien beschreibbar – und in dieser Form wird sich die „ethische“ Bewertung derselben letztlich an der Verlässlichkeit solcher Systeme orientieren. Aus dieser Folgerung ergäbe sich eine deutliche Parallele zu „klassischen“ technischen Systemen, die eine Erweiterung der ethischen Betrachtung kaum erforderte.

3Eine mögliche Abkehr, ja ein regelrechter Bruch mit dieser vertrauten Form scheint allerdings dort vorzuliegen, wo nicht nur die Kontrolle, sondern auch die Erstellung des Systems – zusehends oder schließlich vollständig – zu einer Leistung des Systems gemacht werden soll. In diesem Fall nämlich würde – so scheint es – auch die letzte Verbindung mit menschlichem Handeln als Zweckrealisierung unterbrochen, und es stellten sich nun in der Tat ganz und gar neue ethische Fragen. Wir wollen im weiteren einen Vorschlag untersuchen, welcher unter dem Titel der „evolutionären Robotik“ ein besonders anspruchsvolles Feld für die Herstellung von Systemen bietet, die mit biomorphen Metaphern (etwa als adaptive, kognitive, evolutionäre oder selbstorganisierende) bezeichnet werden. Während jedoch die logische Grammatik der Askription kognitiver Ausdrücke methodologisch intensiv untersucht wird (zu einigen damit verbundenen Grundproblemen vgl. Gutmann/Rathgeber 2010), liegen Rekonstruktionen solcher biomorphen Askriptionen bisher nur in wenigen Ausarbeitungen vor, so dass eine etwas genauere Darstellung erfolgen muss (dazu im Überblick Bölker/Gutmann/Syed 2010, ferner Gutmann 1996).

1. Das Evolutionäre und das Ingenieursparadigma

4Evolutionäre Robotik (ER) gilt als eine der radikalsten Neuerungen im Feld autonomer Systemtechniken.4 In ihrer Zielsetzung lässt sie sich wie folgt umreißen:

„The basic idea behind evolutionary robotics goes as follows […]. An initial population of different artificial chromosomes, each encoding the control system (and sometimes the morphology) of a robot, are randomly created and put in the environment. Each robot (physical or simulated) is then let free to act (move, look around, manipulate) according to a genetically specified controller while its performance on various tasks is automatically evaluated. The fittest robots are allowed to reproduce (sexually or asexually) by generating copies of their genotypes with the addition of changes introduced by some genetic operators (e.g., mutations, crossover, duplication). This process is repeated for a number of generations until an individual is born which satisfies the performance criterion (fitness function) set by the experimenter“ (Nolfi/Floreano 2000, 1).

5Ganz offenkundig ist diese Darstellung metaphorischer Natur. Es werden Ausdrücke, die explizit den Biowissenschaften (vor allem der Evolutionsbiologie) entstammen und üblicherweise ihre Anwendung auf belebte Gegenstände finden, zur Charakterisierung der Leistungen von Artefakten genutzt: Denn die „Chromosomen“, von welchen hier die Rede ist, dürften sich der histologischen Anfärbung ebenso widersetzen, wie sie vermutlich auch keinen Phänotyp qua Expression eines Genotyps ausbilden; Roboter „handeln“ weder, noch haben sie Sex oder gelten in irgendeiner Weise als geboren. Lassen wir zunächst die Rolle des Experimentators außer Acht, so gibt es grundsätzlich zwei Möglichkeiten, methodologisch auf diese Darstellung zu reagieren:

1. Es könnte auf der bloß konnotativen Funktion des genutzten Vokabulars bestanden werden oder
2. Der Versuch einer Explikation dieser uneigentlichen Redeweisen wäre vorzunehmen.

6Während im ersten Fall das gesamte Projekt der ER als schlichtes systematisches (Selbst-) Missverständnis zu gelten hätte, besteht der Reiz der zweiten Variante vor allem darin, verstehen und begreifen zu können, was der Referent der Beschreibungen eigentlich ist. Genau dies würde es überhaupt erst ermöglichen, „ethische“ Beurteilungen der in Rede stehenden Technologien vorzunehmen.

7Das für ER zentrale neue (eben evolutionäre) Paradigma wird in Abgrenzung zum klassischen (Ingenieurs-)Paradigma charakterisiert. Das klassische (Ingenieurs-)Paradigma ist gemäß Nolfi & Floreano (2000, 6ff.) durch das Bemühen gekennzeichnet, die Lösung anstehender technischer Probleme durch systematische Dekomposition komplexer in einfache Einheiten zu erreichen (ein Verfahren, das schon Bertalanffy als „elementalistic“ bzw. „analytic“ charakterisierte und dessen Schwäche er durch systemtheoretische Integration zu beheben hoffte5; s. Bertalanffy 1969). Dies gilt sowohl für materielle wie nicht-materielle Eigenschaften von Robotern (nicht-materielle Eigenschaften wären z.B. „Flucht- und Ausweichverhalten“, „Navigation“ etc.). Sollen Roboter etwa Umgebungsinformationen sammeln, diese verarbeiten und gemäß derselben agieren, so wäre eine dem Ingenieursparadigma gehorchende Reihung jene von äußerer Wahrnehmung, Daten- und Informationsverarbeitung, Modellierung, Handlungs-Planung und Handlungs-Ausführung. Es schließt sich die inkrementelle Implementierung sowohl der notwendigen „behavior modules“ als auch der „control-systems“ an. Regelmäßig erweisen sich die Resultate solcher vom Beobachter gesteuerten Konstruktionen als suboptimal (vgl. Nolfi/Floreano 2000, 6ff.; sowie Thrun/Burgard/Fox 2006).

8Demgegenüber ist das evolutionäre Paradigma durch das Fehlen einer zentralen und koordinierten Planung charakterisiert. Die Veränderungen, die den evolvierenden Einheiten unterliegen, sind definitionsgemäß nicht intentional. Zudem sind sie abhängig von einer Reihe von Parametern, die mit den funktionalen Strukturen der Individuen (aus welchen die Einheiten bestehen), deren Verhalten untereinander sowie deren Verhalten zu belebten und unbelebten Umgebungsaspekten zusammenhängen. Die Transformation der evolutiven Einheit wird bezüglich einer Fitness-Funktion selektiv bewertet, wobei die Steigerung der Fitness definitionsgemäß als „Erfolg“ zu werten ist. Nach dieser Auffassung würde die Rolle des Ingenieurs im evolutionären Paradigma wesentlich transformiert. Dessen Funktion bestünde nun vor allem in der Initiierung eines Selbst-Optimierungsprozesses, einer System-Generierung. Eine direkte Kontrolle über die Auszeichnung der Systemparameter oder der zu ihrer Gewinnung notwendigen Transformationsschritte darf hierfür zumindest dann nicht erforderlich sein, wenn an dem Anspruch der Selbsterstellung festgehalten wird. Das System wäre dadurch der Autor seiner eigenen Veränderung (Nolfi/Floreano 2000, 9). Die Ausnutzung – so ließe sich diese Neubestimmung der Rolle des Ingenieurs umschreiben – von „natürlichen Prozessen“ führte zu „Quasi-Organismen“, die ihren konventionell erzeugten (robotischen) Vorläufern deutlich überlegen wären. Der resultierende Prozess der Selbst-Optimierung erlaubte die flexible und zugleich angemessene Veränderung der evolvierenden Einheiten auch unter Bedingungen der Veränderung von Umgebungseigenschaften – und mithin der jeweiligen Fitness-Funktion.

2. Fitness = Fitness?

9Das Verständnis dessen, was ER von klassischem Engineering unterscheidet hängt wesentlich am Verständnis des Ausdrucks Fitness. Genau an dieser Stelle erweist sich allerdings eine Homonymie als problematisch, die schon innerhalb der biowissenschaftlichen Theoriebildung für einige Verwirrung sorgte (s. Gould/Lewontin 1979): denn die Fitness-Funktion ist im Falle der Erzeugung von Robotern auf „evolutionärem Wege“ mit der Zwecksetzung des Experimentators verknüpft. Dieser definiert notwendigerweise sowohl die eigentlichen Aufgaben (etwa Finden und Durchfahren einer Öffnung) als auch die dazugehörigen Leistungskriterien:

„The fitness function is a performance criterion that evaluates the performance of each individual phenotype. Higher fitness values are better. For example, if one wants to optimize a mathematical function, individuals coding for values that generate higher returns will receive higher fitness. Similarly, one may attempt to maximize the difference between the value returned by the function and a target value“ (Nolfi/Floreano 2000, 20).

10Eine solche Zielvorgabe ist aber im Rahmen eines darwinistischen Verständnisses von Evolution notwendig ausgeschlossen: Es ist ja eine entscheidende Leistung desselben, evolutionäre Prozesse ohne teleologische Annahmen modellieren zu können (Mayr 1979). Es bleibt nur die Möglichkeit, Evolution unumwunden als Optimierungsvorgang zu verstehen, eine These, die zu erhärten durch die Anführung einiger typischer Beispiele unternommen wird6 (hierzu etwa Reiter 1995 am Beispiel des Knochens oder Mosbrugger/Roth 1995 für Landpflanzen, vgl. ferner Rechenberg 1973, Wickler/Seibt 1983 und Maynard Smith 1982). Akzeptieren wir zunächst die These, dass Evolution Optimierung sei, so stellt sich allerdings nun methodologisch die Frage, woher wir um diese Eigenart von Evolution eigentlich wissen. Signifikanterweise lässt sich „Optimierung“ zunächst im Feld der Technik selber sehr gut erläutern. Wir verstehen darunter einen mehrstelligen Ausdruck, dem gemäß etwa „x durch A in Hinsicht auf Z mithilfe von y optimiert“ wird; „optimieren“ als Tatprädikat ist dann noch durch den Ausdruck „verändern“ zu ersetzen, wobei Z die Zielfunktion der Veränderung angibt. Grundlage solcher Verbesserungen sind zunächst adäquate Beschreibungen des zu optimierenden Gegenstandes (etwa der Rumpf eines Schiffes), wobei die Adäquatheit durch Bezug auf die relevanten Parameter sicherzustellen ist.7 Formal handelt es sich hier um jene Gleichungsfaktoren und Randbedingungen, von welchen die zu optimierende Größe beeinflusst wird (dazu Nachtigall 1994, 1995). Es ist ferner eine Zielfunktion anzugeben, die es erlaubt, die gewünschten Extremwerte für die Optimierung zu bestimmen. Damit ist ein Nicht-Artefakt so beschrieben, als wäre es ein Artefakt:

„Man kann Organismen ja auch parallel setzen zu technischen Gebilden, sozusagen als real existierende Systeme betrachten, die – wie immer sie sich entwickelt haben – erkennbare Struktur-Funktions-Beziehungen ausgebildet haben“ (Nachtigall 1995, 140).

11Es ist eine solche „Parallelsetzung“ in der Tat genau dann möglich, wenn als Tertium von Lebewesen und Artefakt die Gesetze8 in Anschlag gebracht werden, bezüglich deren die Funktion des Artefakts beschreibbar sind. Auf diese Weise lassen sich – um einige einschlägige Beispiele zu nennen – etwa Kriterien, die für die Schmierung technischer Gelenke relevant sind, auf Gelenke im Schulter- und Hüftgelenkbereich höherer Wirbeltiere übertragen9.

12Am Modell etwa der Ermittlung eines Optimalwertes für gewisse statische Kenngrößen eines Baumes lässt sich diese Betrachtung erläutern. Dabei wird zunächst die geforderte Beschreibung des Baumes angefertigt (unter Nutzung technischer Beschreibungssprachstücke):

„Der Hauptträger eines pflanzlichen Hochbausystems (Halm eines Grases, Schaft eines Bambusgewächses, Stamm eines Baumes) sollte aus Materialgründen und aus energetischen Gründen – Materialanhäufung kostet Bauenergie – nirgendwo einen größeren Radius r erreichen, als zum Abfangen einer zulässigen Spannung σ zu l gerade nötig ist. Er wäre dann, analog zu vielen baustatischen Konstruktionen der Technik, ein „Körper gleicher Festigkeit“ (Nachtigall 1995, 140f.).

13Der Baum wird demnach als Hochbausystem beschrieben, wobei sein Stamm als eigentlicher Hauptträger gilt. Legt man eine solche Beschreibung zugrunde, so ist die Identifizierung von Optimalwerten möglich, welche nach der Theorie für „kreisrunde Träger gleicher Festigkeit“ ermittelt wird (Nachtigall 1995, 141f.). Nimmt man – im Lichte der Beschreibung des Lebewesens „als“ Hochbausystem – empirische Messungen vor, lässt sich die Güte der Modellierung bestätigen.

14Nehmen wir nun an, solche Messungen verlaufen zufriedenstellend, so lässt sich der Baum beschreiben, als ob er ein – bezüglich des identifizierten Parameters und der Nutzung gewisser Strukturen sowie deren Anordnungen – optimiertes Hochbausystem wäre. Es bleibt das „Als-ob“ aber notwendig erhalten und insofern kann Evolution so verstanden werden, als handele es sich um einen technischen Vorgang. Methodologisch aber rekonstruieren wir Aspekte von Evolution (in diesem Fall etwa funktionale Veränderungen der morphologischen Struktur) durch Nutzung technischer Konstruktionen als Modelle für funktionale Transformationen (im Detail dazu Gutmann 1996). Berücksichtigen wir die modellierende Zwecksetzung nicht, so entsteht der Eindruck, die Beschreibung des Lebewesens hätte denselben methodologischen Status wie die Beschreibung des Artefakts; im Gefolge dieser Identifikation würden wir mit lebenswissenschaftlich kaum zu begründenden Vermutungen über den „gestalteten“ Charakter von Lebewesen konfrontiert, wie sie im Rahmen von Konzepten des Intelligent Design (in der Fortsetzung kreationistischer Ansätze) ausgewiesen werden können. Insofern kann Nolfi & Floreano (2000) nur zugestimmt werden, wenn sie auf die Homonymie des Ausdruckes Fitness hinweisen:

„This value (which expresses the fitting between organisms and its environment, the authors) is the number of offspring in the case of natural evolution and the fitness value in the case of artificial evolution“ (Nolfi/Floreano 2000, 154).

15Dies führt zur Einsicht, dass die evolutionäre Konstruktion autonomer Systeme nur dann überhaupt als Konstruktion angesprochen werden kann, wenn sie zur Realisierung von Zwecken führt. Eine solche Realisierung ist aber mit jenen Theorieteilen, von welchen sich die Vertreter der evolutionären Robotik eine Ersetzung des Ingenieursparadigmas erhoffen, schlicht unverträglich. Dies mündet in die weitergehende Frage ein, was die – für die Zwecke der evolutionären Robotik – relevante Form von Evolutionstheorie überhaupt ist:

„One might wonder, whether Lamarckian evolution […] could be more effective than Darwinian evolution […]. Ackley and Littmann […] for instance claimed that in artificial evolution, where inherited characters can be easily coded into the genotype, given that the mapping between genotype and phenotype is generally quite simple, there is no reason for not using Lamarckian evolution. Indeed the authors showed that Lamarckian evolution is far more effective than Darwinian evolution in a stationary environment. On the other hand, as shown by Saski and Tokyo […], Darwinian evolution largely outperforms Lamarckian evolution when the environment is not stationary or when individuals are exposed to different learning experiences” (Nolfi/Floreano 2000, 287).

16Selbst im Falle der – bei instabilen Umgebungen – als „besser“ angesehenen „Darwinian Evolution“ gilt der Unterschied bezüglich der resultierenden Roboter nur dann, wenn diese technisch bessere Lösungen sind. Es zeichnet sich damit ein Dilemma ab, das wir als jenes des artifex absconditus10 bezeichnen können. Dieses Dilemma stellt sich genau dann ein, wenn wir zugleich an technischen Fitness-Kriterien und an darwinistischer Evolution festhalten wollen.

3. Das Dilemma des artifex absconditus

17Auf der Grundlage der vorgelegten Rekonstruktion lässt sich das oben angekündigte Dilemma ausformulieren, welches der Bewertung autonomer Systeme vorangeht:

1. Entweder wird an dem Anspruch festgehalten, es handele sich bei ER um Engineering; dann wird der Ausdruck „evolutionary“ eine metaphorische Beschreibung von Ingenieurshandeln sein, in dessen Gefolge menschliche Zwecke realisiert werden – und zwar nach Kriterien des Gelingens und Misslingens der entsprechenden Konstruktionen sowie dem Erfolg ihrer Veränderung (sei es als Optimierung, sei es als Differenzierung).
2. Oder es wird am Anspruch festgehalten, es handele sich bei ER um evolutionäre Vorgänge; dann wird der Ausdruck „Engineering“ eine metaphorische Beschreibung der Veränderung von Fitness-values nach Maßgabe einer wie auch immer gearteten Selection-Landscape. Im Gefolge dieser Fitness-Veränderungen lässt sich dann nicht mehr zwischen gelingender und misslingender oder erfolgreicher und erfolgloser Zweckrealisierung unterscheiden (es wäre dies ja nur die durch einen am Ingenieurshandeln orientierten Beobachter vollzogene Bewertung).

18Trifft das Erste zu, so ist das evolutionäre Paradigma lediglich eine Art der Realisierung menschlicher Zwecke von technischen Systemen (etwa deren Optimierung) – und mithin eine Form technischen Handelns. Soll dies zugleich als evolutionär im wörtlichen Sinne gelten, dann müsste es sich um einen nicht-darwinistischen Modus handeln, der unterstellte, dass Evolution faktisch designartig strukturiert ist (etwa hinsichtlich Optimierung).

19Trifft das Zweite zu, dann führt das evolutionäre Paradigma nicht mehr zur Realisierung menschlicher Zwecke.11 Es ließe sich am darwinistischen Ansatz festhalten, wobei dann die Bestimmung der Veränderungen am Gegenstand nur noch metaphorisch als Optimierung zu verstehen wäre.

20Dieses Dilemma verdeutlicht, dass es unmöglich ist, unter Beibehaltung ingenieurswissenschaftlicher Standards das Ingenieurshandeln als „evolutionär“ zu charakterisieren und zugleich unter Beibehaltung lebenswissenschaftlicher Standards die Resultate evolutionärer Transformation als „ingenieursartig“ auszugeben.

4. Rechtfertigbarkeit evolutionärer autonomer Systeme

21Nach der systematischen Rekonstruktion zentraler Sprechweisen, die für die Beschreibung von Eigenschaften autonomer technischer Systeme im Zusammenhang der ER verwendet werden, kann nun auch die eingangs angesprochene Frage beantwortet werden, inwieweit Systeme, die nach Maßgabe des evolutionären Paradigmas hergestellt wurden, als „verlässlich“ einzustufen sind. Nehmen wir nämlich an, dass die Verlässlichkeit solcher Systeme eine notwendige Bedingung für die Möglichkeit der Verantwortung ihres Baues und Betriebes ist, so kann unabhängig von der näheren Darstellung von „Verantwortung“ (wir verzichten zugleich ausdrücklich auf die autoritäre Fassung, welche beispielsweise Jonas diesem Begriff gab und lassen eine Einführung hier auf sich beruhen)12 eine einfache Fallunterscheidung vorgenommen werden:

1. Halten wir an dem wörtlichen Verständnis von „evolutionär“ fest, so haben wir es definitionsgemäß mit Systemen zu tun, deren Verhalten nicht einfachhin prognostizierbar ist. Da die Kriterien des Gelingens von Problemlösungen – im Extremfall vollständig – in der Autorenschaft der Systeme lägen, ist ein Vertrauen in solche Systeme nicht gerechtfertigt.
2. Halten wir an dem metaphorischen Verständnis von „evolutionär“ fest, so steht die Zweckbestimmung selber zur Rechtfertigung an. Da das Ausmaß der Verlässlichkeit des Systems hier vom Ausmaß der Prognosti- zierbarkeit seines Verhaltens13 abhängig gemacht wurde, sind nicht nur die Zwecke selber zu rechtfertigen, sondern zudem die Risiken (welche erst nach der Rechtfertigung als zumutbar gelten können).

22Wird also das Ingenieursparadigma – aller evolutionären Rhetorik zum Trotz – beibehalten, so lassen sich für „evolutionär“ hervorgebrachte autonome Systeme durchaus Rechtfertigungsbedingungen formulieren. Ob aber und in welchem Ausmaß diese auch als faktisch erfüllt gelten – im Sinne der tatsächlichen Rechtfertigung –, ist dann nicht mehr Gegenstand angewandtethischer oder gar philosophischer Erwägungen, als vielmehr die Aufgabe der Technikfolgenabschätzung.