Die Debian-Entwickler sind aufgerufen, vier verschiedene Vorschläge zu diskutieren, anhand derer später über eine Nutzung von großen Sprachmodellen bei der Softwareentwicklung abgestimmt werden soll. Die Vorschläge reichen von striktem Verbot bis zur freien Nutzung unter bestimmten Bedingungen.
Der erste Vorschlag für eine Generalabstimmung (General Resolution) wurde von Matthias Geiger eingereicht und hat das klare Ziel, ausdrücklich jeden Beitrag zu Debian verbieten, der mit oder mithilfe eines LLM oder anderer generativer KI zustande gekommen ist. Ausgenommen sind Upstream-Projekte, Patches und KI-bezogene Software selbst.
Argumentiert wird einerseits mit der hohen Stabilität von Debian, denen die KI-Tools oft den hier unangemessenen Ansatz “move fast, and break things” entgegenstellen. Weiter seien Lizenz- und Copyright-Fragen ungeklärt, es gäbe Probleme mit der Qualität, etwa beim Packaging, wo sich Syntax und Best Practices im Lauf der Zeit geändert haben. Zudem könnte eine Flut KI-generierter Beiträge die Maintainer überfordern, für die am Ende auch der Nachwuchs fehlen würde, wenn das nötige Wissen dank KI verloren ginge. Und schließlich werden ethische Bedenken angeführt: Das rücksichtslose Scraping auf der Jagd nach Trainingsdaten, das Lizenzen missachtet oder der maßlose Ressourcenverbrauch durch KI. Dies alles verstoße auch gegen Debians Social Contract. Dem soll, so der Vorschlag, ein neuer Passus hinzugefügt werden, der die KI-Nutzung verbietet.
Der zweite Vorschlag, eingereicht von Lucas Nussbaum, will KI-gestützte Beiträge im Gegensatz zum ersten explizit erlauben. Zwar sieht er auch zahlreiche Probleme, bilanziert aber: “Dennoch empfinden viele Debian-Mitwirkende KI-Tools als hilfreich bei ihrer Mitarbeit an Debian und letztlich auch für die Verbesserung von Debian.” Die Nutzungserlaubnis soll an sechs Bedingungen gekoppelt werden: Die Nutzenden sollten sicherstellen, dass die Nutzungsbedingungen eines generativen KI-Tools keine vertraglichen Einschränkungen enthalten, die im Widerspruch zur Verbreitung, Änderung oder Nutzung der Ergebnisse im Rahmen von Debian stehen. Sollte der KI-Output lizenziertes Material Dritter enthalten, müsse sichergestellt sein, dass das kompatibel zur Open-Source-Lizenz ist. Der Einreicher bleibe außerdem voll verantwortlich für seine Beiträge. Die KI-Nutzung müsse offengelegt werden. Massenbeiträge oder autonom generierte Beiträge sollten im Vorhinein diskutiert und ihre Einreichung überwacht werden. Und schließlich dürften keine generativen KI-Tools verwendet werden, die Daten mit nicht öffentlichen oder sensiblen Projektinformationen (wie beispielsweise unter Embargo stehende Sicherheitsberichte oder private Kommunikation) an nicht vertrauenswürdige Anbieter übermitteln.
Der dritte Vorschlag, Einreicher ist Ian Jackson, will KI-generierte Beiträge zurückweisen, solange das praktisch machbar ist. Er begründet das so: “Große Sprachmodelle (LLMs) weisen zahlreiche schwerwiegende Probleme auf, darunter: die Untergrabung der Mechanismen zum Aufbau von Freie-Software-Communities; Umweltschäden; die Ausbeutung von Autoren; die Störung des offenen Webhostings durch aggressives Scraping; die Erzeugung und Verbreitung von Unsinn, die Verschmutzung der Informationsallmende, Gefahren für die psychische Gesundheit der Nutzer, Wirtschaftsblasen, Verzerrungen des Marktes für Computerhardware, Betrug, die Kontrolle durch unlegitimierte Menschen und Unternehmen und so weiter. Eine ethische und sichere Nutzung dieser Technologie ist nahezu unmöglich.” In diesem Sinn werden alle Mitwirkenden an Debian gebeten, auf KI-Tools zu verzichten und alle Entscheidungsträger aufgefordert, von ihrem Einsatz so weit wie möglich abzuraten. Innerhalb Debian sollen alle Messages, Diskussionen, Blogs oder Mailinglisten ohne LLM-Assistenz verfasst werden. Maintainer individueller Projekte können den LLM-Einsatz komplett verbieten. Wo es doch dazu kommt, muss die Verwendung eines KI-Tools offengelegt werden.
Der vierte Vorschlag, eingereicht von Pierre-Elliott Bécue, will den KI-Einsatz nicht empfehlen, räumt aber ein, dass diese Praktiken bereits gang und gäbe sind und auch weiterhin bestehen bleiben werden. Anstatt ihre Nutzung zu verbieten – was kontraproduktiv und nicht durchsetzbar erscheine -, solle sich Debian dafür entscheiden, die Verantwortung den Mitwirkenden zu übertragen. Dafür soll es Richtlinien geben: Der gesamte Code, der mit KI-Hilfe entsteht, muss den Debian Free Software Guidelines (DFSG) entsprechen. Der Einreicher bleibt alleine voll dafür verantwortlich, dass der Code ausreichend getestet ist und von ihm verstanden wird und erklärt werden kann. Die Nutzung von KI-Tools soll ausgewiesen werden. Es darf keine cloudbasierte KI eingesetzt werden, wenn die übermittelten Daten entweder für das Projekt sensibel (personenbezogene Daten, Informationen unter Sperrfrist) oder nicht öffentlich (Diskussionen in “debian-private”) sind.
Die Debian-Entwickler können jetzt mindestens zwei Wochen lang die Vorschläge diskutieren. Danach folgt dann die Abstimmung. Dabei setzt Debian auf eine Präferenzwahl, bei der sich die Wahlberechtigten nicht für eine Option entscheiden müssen, sondern auch eine Rangfolge festlegen können.
