Einsteigen und vertrauen: Im Smartshuttle in Sitten fährt die künstliche Intelligenz. | Bild: Postauto

Computerwissenschaftler der ETH Zürich haben ein neues Testsystem für neuronale Netzwerke vorgestellt. Diese Elemente der künstlichen Intelligenz übernehmen zunehmend verantwortungsvolle Aufgaben – zum Beispiel in der medizinischen Bilddiagnostik oder in der Robotik. Dies, obwohl man sich auf ihre Entscheidungen nicht immer verlassen kann. Insbesondere lassen sich Algorithmen für das maschinelle Sehen durch kleinste Änderungen der Bilder austricksen.

Allerdings ist es schlicht unmöglich, alle möglichen Abweichungen in Bildern zu testen und ihren Effekt auf den Algorithmus zu prüfen. Das System Deeppoly von Martin Vechev und seinen Kollegen prüft deshalb die Stabilität neuronaler Netzwerke gegenüber solchen kleinen Störungen global. Es läuft auf einer abstrakten Ebene ab und erstellt ein vereinfachtes mathematisches Modell des Netzwerkverhaltens – sogenannte lineare Approximationen. Deeppoly sei höchst effizient und lasse sich auch auf Netzwerke mit besonders vielen Neuronen (Knoten) hochskalieren, sagt Vechev. Das ist notwendig, weil die Struktur der neuronalen Netzwerke immer komplexer wird.

Das Forschungsteam wird nun die Testverfahren weiter verfeinern und auch die Reaktion auf grössere und kompliziertere Verzerrungen in den Bildern prüfen. Erste vorläufige Resultate liegen schon vor. Ausserdem erarbeitet die Gruppe ein grundsätzlich neues Konzept zur Programmierung von neuronalen Netzwerken: Sie sollen von Beginn an so strukturiert werden, dass sie sich leichter testen lassen. Eine gute Idee bei solch verantwortungsvollen Aufgaben.