Computerwelt: Aktuelle IT-News Österreich


17.08.2017 Klaus Lorbeer/pi

Sage präsentiert Ethik des Programmcodes für KI

Die jetzt von Sage vorgestellten ethischen Prinzipien sollen als Richtschnur dienen, wie ethische und verantwortliche künstliche Intelligenz für Geschäftsanwendungen geschaffen werden kann.

Ein Gehirn vereint mit integrierten Schaltkreisen ist das Sinnbild, das Sage für KI entworfen hat und das als Logo für die "Ethics of Code" fungiert.

Ein Gehirn vereint mit integrierten Schaltkreisen ist das Sinnbild, das Sage für KI entworfen hat und das als Logo für die "Ethics of Code" fungiert.

© Sage

Sage, Marktführer für Cloud-basierte Buchhaltungs-, Lohnabrechnungs- und Bezahlsysteme, ruft die Technik-Community dazu auf, Verantwortung für die ethische Entwicklung von Künstlicher Intelligenz (KI) für Unternehmen zu übernehmen. Sage hebt mit "The Ethics of Code: Developing AI for Business with Five Core Principles" eine Reihe von Werten hervor, an denen sich die Entwickler und Entwicklerinnen an der Schwelle zur vierten industriellen Revolution orientieren sollten. 

Die "Ethik des Programmcodes" von Sage ist in der Zeit entstanden, in der Sage seine eigenen Programme für Maschinelles Lernen und Künstliche Intelligenz entwickelte. Ziel der Anwendungen ist es, den administrativen Aufwand für Finanzen - vom Startup bis zum Großkonzern - zu reduzieren. 

Kriti Sharma, Bereichsleiter für Bots und KI bei Sage, erachtet die Entwicklung von Chatbots und KI-Anwendungen, die die Kunden von Sage unterstützen sollen, als den einfachsten Teil. Großen Fragen ergäben sich jedoch aus der zunehmenden Präsenz von KI, da sie vielfältig seien und immer aktueller würden, so Sharma. Daher orientiere sich Sage bei der KI-Entwicklung an einem Werte-Kanon, der gewährleisten soll, dass die Produkte von Sage sicher seien und ethischen Kriterien entsprächen.   

Kritikpunkt Sharma: "Unsere "Ethik des Programmcodes" wurde zum Schutz der Anwender konzipiert und soll gewährleisten, dass Technik-Giganten wie Sage Künstliche Intelligenz entwickeln, die ungefährlich und sicher ist, sich dem Anwendungsfall anpasst sowie integrierend ist und so die Vielfalt der Anwender spiegelt, die sie nutzen. Als führendes Unternehmen bei der Entwicklung von KI im Unternehmensumfeld möchten wir andere dazu aufrufen - Großkonzerne, kleine Unternehmen, aber auch Hacker - diese Prinzipien bei der Entwicklung und Bereitstellung ihrer eigenen KI-Anwendungen im Kopf zu behalten." 

"The Ethics of Code: Developing AI for Business with Five Core Principles
Nachfolgend eine Übersicht der fünf Prinzipien der Ethik des Programmcodes von Sage.

  • 1. KI sollte die Diversität der Anwender widerspiegeln, die KI nutzen: Sowohl die Wirtschaft als auch die Community muss effektive Mechanismen entwickeln, um Vorurteile und negative Tendenzen aus den Daten, von denen KI lernt, herauszufiltern - um sicherzustellen, dass die KI-Anwendung keine Stereotypen zementiert. 
  • 2. KI muss verantwortlich zu machen sein - genauso wie die Nutzer: Anwender stellen eine Beziehung zu KI-Anwendungen her und vertrauen ihnen bereits nach ein paar relevanten Interaktionen. Mit dem Vertrauen kommt auch die Verantwortung. Daher muss man KI für ihre Handlungen und Entscheidungen zur Rechenschaft ziehen können, genau wie Menschen. Die Technik darf nicht so intelligent werden, dass sie sich der Verantwortung entziehen kann. Dieses Verhalten akzeptieren wir schließlich auch nicht in anderen Bereichen, in denen es um Expertenwissen geht. Die Technik darf keine Ausnahme darstellen. 
  • 3. KI-Leistungen honorieren: Lernt ein KI-System von schlechten Beispielen, könnte das zu unangemessenem Verhalten führen. Wir sollten uns in Erinnerung rufen, dass die meisten heutigen KI-Anwendungen keine Wahrnehmung dafür haben, was sie uns mitteilen. Das "Bewusstsein" wird sich allein durch allgemeines Zuhören und Lernen entwickeln. 
  • Ein Ansatz dafür ist die Entwicklung eines Belohnungssystems für das KI-Training. Maßnahmen für das Reinforcement-Lernen (Lernen durch Bestärken) sollten nicht nur darauf basieren, was KI-Anwendungen oder Roboter tun, um ein Ergebnis zu erzielen, sondern auch darauf, wie sie sich an menschlichen Werten ausrichten, um bestimmte Resultate zu erzielen. 
  • 4. KI sollte für Chancengleichheit sorgen: Sprachtechnologie und Social-Bots eröffnen neue Möglichkeiten der Teilhabe, besonders für Menschen, die durch Sehprobleme, Legasthenie oder eingeschränkte Bewegungsfähigkeiten gehandikapt sind. Die Community für Business-Technologie muss die Entwicklung neuer Technologien vorantreiben, die der Chancengleichheit und der Vergrößerung des Talentpools dienen. 
  • 5. KI wird Vieles ersetzen, aber sie muss auch Neues schaffen: Durch die automatisierte Erledigung von Aufgaben durch Roboter werden sich neue Möglichkeiten eröffnen. An diese neuen Chancen müssen Menschen herangeführt und dafür ausgebildet werden. Wenn Unternehmen und KI zusammenarbeiten, können sich Menschen stärker auf das konzentrieren, worin sie gut sind: Beziehungen aufbauen und Kunden betreuen. 

Rainer Downar, Executive Vice President von Sage, sagt dazu: "Mit der Entwicklung von Künstlicher Intelligenz bieten sich großartige neue Möglichkeiten. Damit einher geht aber auch eine große Verantwortung. Sage möchte mit seiner "Ethik des Programmcodes" und seinen Leitlinien ein Zeichen für eine verantwortungsvolle Entwicklung setzen. Der Umgang mit KI muss im Einklang mit ethischen Werten stehen. Wir von Sage sind davon überzeugt, dass das die Basis für eine starke Partnerschaft zwischen KI und Mensch ist."

Mit gutem Beispiel vorangehen 
Sage ist durch die Einführung seines Chatbots namens Pegg der Vorreiter für den revolutionären Wandel in der Buchhaltung. Entwickelt wurde Pegg mit dem Ziel, Unternehmen administrative Routineaufgaben abzunehmen, also solche Tätigkeiten, die sie davon abhalten, sich auf wichtige Aufgaben zu konzentrieren. Pegg geht dabei zu 100 Prozent konform mit den KI-Leitlinien von Sage. Der Chatbot fungiert als smarter Assistent für kleine Unternehmen und erlaubt dem Nutzer, Ausgaben zu erfassen und seine Finanzen über beliebte Messaging-Dienste wie den Facebook Messenger oder Slack zu verwalten. Ein Jahr seit seiner öffentlichen Vorstellung zählt Pegg heute bereits zehntausende Nutzer in über 135 Ländern weltweit.

Diesen Artikel

Bewertung:

Übermittlung Ihrer Stimme...
Noch nicht bewertet. Seien Sie der Erste, der diesen Artikel bewertet!
Klicken Sie auf den Bewertungsbalken, um diesen Artikel zu bewerten.
  Sponsored Links:

IT-News täglich per Newsletter

E-Mail:
Weitere CW-Newsletter

CW Premium Zugang

Whitepaper und Printausgabe lesen.  

kostenlos registrieren

Aktuelle Praxisreports

(c) FotoliaHunderte Berichte über IKT Projekte aus Österreich. Suchen Sie nach Unternehmen oder Lösungen.



Hosted by:    Security Monitoring by: