Leitfaden für die Entwicklung von KI für den Bildungsbereich

Das Office of Educational Technology des amerikanischen Bildungsministeriums hat einen Leitfaden veröffentlicht, der sich direkt an die Entwickler:innen von KI-Software richtet: “Designing for Education with Artificial Intelligence: An Essential Guide for Developers”. Es werden dabei u.a. folgende Forderungen benannt:

Menschzentriertes KI-Design:

Lehrkräfte und Schüler:innen sollen in den Entwicklungsprozess eingebunden werden, um sicherzustellen, dass KI-Tools ihre Bedürfnisse erfüllen und effektiv genutzt werden. Dies gewährleistet, dass KI-Systeme nicht nur technisch ausgereift, sondern auch pädagogisch sinnvoll und niedrigschwellig nutzbar sind.

Gleichberechtigung und Barrierefreiheit:

Hervorhebung des Potenzials von KI, um die Vielfalt der Lernenden zu unterstützen, einschließlich Kindern mit Behinderungen oder Benachteiligungen sowie mehrsprachigen Lernenden. Es werden innovative Ansätze gefordert, die sich auf die Stärken und Interessen der Schüler:innen konzentrieren, sowie KI-Tools, die eine breitere Palette von Eingaben und Ausgaben unterstützen (z. B. Sprache, Gesten, Zeichnungen, …).

Evidenzbasierte Entwicklung:

Entwickler:innen wird empfohlen, erziehungswissenschaftliche Forschung einzubeziehen und die Anwendung ihrer Systeme entsprechend auch erziehungswissenschaftlich zu begleiten. 

Ethische und transparente KI:

Förderung der Transparenz bei der Implementierung von KI und Betonung der Notwendigkeit für Entwickler:innen, einen offenen Dialog mit an Bildungsprozessen beteiligten Stakeholdern zu führen. Ebenso wichtig ist ein transparenter Umgang mit algorithmischen Verzerrungen und die Sicherstellung, dass KI-Tools nach ethischen Standards entwickelt werden und diese sich auch in ihren Antworten wiederfinden. 

Gemeinsame Verantwortung für Vertrauen:

Das Konzept der gemeinsamen Verantwortung zwischen Entwickler:innen, Akteur:innen im Bildungssystem und politischen Entscheidungsträger:innen zur Schaffung und Aufrechterhaltung des Vertrauens in KI-Systeme wird hervorgehoben. Dies umfasst die Einhaltung von politischen Vorgaben, den Einbezug der entsprechenden Stakeholder und die kontinuierliche Verbesserung von KI-Systemen auf Basis von Feedback und sich entwickelnden Best Practices.

Positiv hervorzuheben ist, dass der Leitfaden direkt den Dialog mit den Entwickler:innen sucht. Eine ähnliche Initiative in Deutschland, die eine engere Kooperation zwischen Wirtschaft, Bildungsbereich und Zivilgesellschaft (insbesondere der Open-Source-Community) anspricht, wäre wünschenswert.