Künstliche Intelligenz (KI) treibt die Start-up-Wirtschaft an, wobei etwa 65 % des Venture Capitals für Unternehmenssoftware in den USA in KI-Start-ups fließen. In den USA und weltweit nutzen Unternehmen KI für alles, von der Automatisierung von Routineaufgaben bis hin zur Entwicklung völlig neuer Produkte. Obwohl die Innovationen und Durchbrüche bedeutend sind, sind auch Regulierungen erforderlich, um zu steuern, wie KI entwickelt und eingesetzt wird.

Der Artificial Intelligence Act (AI Act, KI-Verordnung) der Europäischen Union ist ein Gesetz zur Regulierung von KI basierend auf dem von ihr ausgehenden Risiko in der EU. Einige US-Unternehmen müssen sich möglicherweise an dessen Bestimmungen halten, um in der EU tätig zu sein. Im Folgenden behandeln wir, wie der AI Act funktioniert, wann er für US-Start-ups gilt und was Gründerinnen und Gründer über Compliance wissen müssen.

Das Wichtigste auf einen Blick

• Der AI Act regelt die Nutzung von KI in den 27 EU-Mitgliedstaaten. Er zielt darauf ab, KI-Systeme sicher zu machen und Menschen vor schädlichen KI-Anwendungen zu schützen. Das Gesetz verbietet Social Scoring und die meisten KI-Anwendungen zur Erkennung von Emotionen bei Mitarbeiterinnen und Mitarbeitern. Es legt die strengsten Anforderungen für Unternehmen fest, die Hochrisiko-KI-Systeme entwickeln oder nutzen.

• US-Start-ups unterliegen den Bestimmungen des AI Acts, wenn sie KI-Produkte oder -Dienstleistungen in der EU verkaufen oder ihre KI-Ergebnisse dort nutzen. Das Gesetz kann auch dann gelten, wenn ein Start-up sein gesamtes Geschäft von den USA aus betreibt und über keine physischen Büros, Mitarbeiterinnen und Mitarbeiter oder Server in Europa verfügt.

• Unternehmen, die in den Geltungsbereich des AI Acts fallen, müssen sicherstellen, dass ihre Prozesse und KI-Systeme die Vorschriften erfüllen. Das kann die Dokumentation, Überwachung und Offenlegung der Funktionsweise ihrer Systeme umfassen. Gründerinnen und Gründer sollten einen Anwalt konsultieren, um festzustellen, welche Anforderungen für ihre Produkte gelten, und diese Anforderungen dann in ihre Produktentwicklungs- und Vertriebspläne integrieren.

Was regelt der AI Act?

Der AI Act reguliert KI-Systeme je nach ihrem Risikoniveau, von keinem oder minimalem bis hin zu inakzeptablem Risiko. Er weist jeder Kategorie unterschiedliche Verpflichtungen zu, von Transparenz- und Kennzeichnungspflichten bis hin zu strengeren Regeln für Hochrisikosysteme. Die Verordnung zielt darauf ab, sichere und vertrauenswürdige KI zu unterstützen und gleichzeitig Gesundheit, Sicherheit und Grundrechte zu schützen.

Das Gesetz gilt auch für Unternehmen außerhalb der EU, wenn sie KI-Systeme in der EU anbieten oder die Ergebnisse ihrer Systeme dort nutzen. Das Europäische Parlament und der Rat verabschiedeten die Rechtsvorschriften im Juni 2024. Im Juli 2026 trat eine Änderung in Kraft, die als Digital Omnibus on AI bekannt ist, die behördliche Aufsicht erweitert und klärt, wie Strafen für kleinere Unternehmen gelten.

Warum könnte ein US-Start-up unter den AI Act fallen?

Der AI Act betrifft Unternehmen weltweit, nicht nur solche mit Sitz in der EU. Jeder Anbieter, der ein KI-System in der EU verkauft oder betreibt, unterliegt dem Gesetz, einschließlich solcher mit Sitz in den USA und anderen Ländern, sofern ihre KI-Systeme Ergebnisse generieren, die innerhalb der EU genutzt werden. Das Gesetz hat eine extraterritoriale Reichweite, um zu verhindern, dass Betreiber die Regeln umgehen, indem sie ihre KI-Systeme außerhalb der EU betreiben, während die Ergebnisse innerhalb der EU genutzt werden.

Die Reichweite des AI Acts ähnelt dem EU-Datenschutzgesetz, der Datenschutz-Grundverordnung (DSGVO). Die DSGVO gilt auch für Unternehmen in den USA und anderen Ländern, die an Kundinnen und Kunden in der EU verkaufen oder deren Verhalten überwachen.

Wann gilt der AI Act für ein US-Start-up?

Ein US-Start-up könnte dem AI Act unterliegen, wenn es eine der folgenden Bedingungen erfüllt:

• Eine Präsenz in der EU unterhält: Es betreibt dort eine Tochtergesellschaft, eine Filiale oder einen anderen Unternehmensstandort.

• KI-gestützte Produkte und Dienstleistungen für den EU-Markt entwickelt: US-Start-ups, die KI-gestützte Software-as-a-Service (SaaS) an EU-Kundinnen und -Kunden verkaufen oder mit einem in der EU ansässigen Vertriebspartner zusammenarbeiten, um ihre Produkte in der EU anzubieten, könnten unter die Verordnung fallen.

• KI-Ergebnisse generiert, die in der EU genutzt werden: Dies könnte eine KI-Funktion umfassen, die sich auf Menschen in der EU auswirkt, wie beispielsweise ein Tool zur Überprüfung von Bewerberinnen und Bewerbern oder eine Empfehlungs-Engine für EU-Nutzerinnen und -Nutzer.

Welche Anforderungen ein US-Unternehmen im Rahmen des AI Acts erfüllen muss, hängt zum Teil von der Einstufung seines KI-Systems ab. KI, die für Personaleinstellungen, Kreditscoring, Gesichtserkennung oder bestimmte Arten der Versicherungs-Preisgestaltung eingesetzt wird, gilt als hochriskant und unterliegt umfangreicheren Anforderungen. Im Gegensatz dazu lässt die Gesetzgebung KI-Anwendungen mit minimalem Risiko, wie Videospiele und Spamfilter, weitgehend unreguliert.

Welche Compliance-Verpflichtungen haben US-Start-ups im Rahmen des AI Acts?

Die Anforderungen hängen davon ab, wie riskant das KI-System eines Start-ups ist. Unternehmen mit Sitz in den USA, die Hochrisiko-KI-Systeme entwickeln, könnten strengere Standards erfüllen müssen. Dazu können die Pflege technischer Dokumentationen, das Führen von Aktivitätsprotokollen (Logs) und die Bereitstellung von Informationen darüber, wie sie KI nutzen, gehören. Ein Risikomanagementprozess könnte ebenfalls erforderlich sein.

Unternehmen, die KI-Systeme mit geringerem Risiko anbieten, haben in der Regel weniger Verpflichtungen. In einigen Fällen muss das Unternehmen möglicherweise kennzeichnen und Nutzerinnen und Nutzern offenlegen, wenn diese mit KI interagieren oder wenn Inhalte von KI generiert wurden. Unternehmen, deren KI-Nutzung als risikoärmer eingestuft wird, wie beispielsweise Spambots und Grammatikprüfungen, haben im Rahmen des AI Acts im Allgemeinen keine verpflichtenden Auflagen.

Was können Gründerinnen und Gründer jetzt tun?

Beginnen Sie damit, Ihre EU-Präsenz zu bewerten. Ermitteln Sie, in welchen Ländern sich Ihre Nutzerinnen und Nutzer sowie Kundinnen und Kunden befinden und ob einige davon in der EU ansässig sind. Konsultieren Sie einen Anwalt, um Ihre rechtlichen Risiken zu prüfen und einen Compliance-Plan zu erstellen. Sie können die Anforderungen des AI Acts auch in Ihre Produktentwicklung und Vertriebsplanung integrieren.

Überprüfen Sie Ihre regulatorischen Verpflichtungen regelmäßig im Zuge der Weiterentwicklung des Gesetzes. Die EU-Aufsichtsbehörden veröffentlichen weiterhin Richtlinien, und die Prioritäten bei der Durchsetzung könnten sich bei der Anwendung der Regeln verschieben. Beispielsweise fügte der Digital Omnibus neue Verbote hinzu und verschob den Zeitplan für die Compliance auf Juni 2026.

Wie funktionieren die Durchsetzung und die Strafen des AI Acts?

Drei Stellen setzen den AI Act durch: nationale Aufsichtsbehörden, das Europäische Büro für Künstliche Intelligenz (AI Office) und der Europäische Datenschutzbeauftragte (EDPS). Jedes EU-Land verfügt über eine eigene Behörde, die KI-Systeme überwacht, die innerhalb seiner Grenzen verkauft oder eingesetzt werden, und die ihre eigenen Strafregeln innerhalb der EU-Obergrenzen festlegt. Das AI Office beaufsichtigt Unternehmen, die hinter KI-Modellen mit allgemeinem Verwendungszweck (GPAI) stehen, sowie die Anwendungen, die sie darauf aufbauen, während der EDPS die von den eigenen Institutionen der EU genutzte KI abdeckt.

Die Bußgelder richten sich nach der Art des Verstoßes:

• Verbotene KI-Praktiken: Bis zu 35 Mio. EUR oder 7 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist

• Verstöße gegen Hochrisiko- und Transparenzvorgaben: Bis zu 15 Mio. EUR oder 3 %

• Verhaltensbezogene Bußgelder: Bis zu 7,5 Mio. EUR oder 1 % für die Übermittlung falscher oder unvollständiger Antworten an die Aufsichtsbehörden

Für Start-ups und andere kleine und mittelständische Unternehmen ist das Bußgeld auf den niedrigeren der beiden Werte begrenzt. Ein Unternehmen mit 2 Mio. EUR Umsatz, das gegen eine Hochrisikoregel verstößt, müsste mit einem Bußgeld von bis zu 60.000 EUR rechnen, nicht 15 Mio. EUR.

So kann Stripe Atlas Sie unterstützen

Stripe Atlas kümmert sich um alles, was Sie brauchen, um Ihr Unternehmen rechtlich abzusichern – Gründung, Arbeitgeber-Identifikationsnummer (EIN), Eigenkapitalstruktur und Steuererklärungen –, damit Sie innerhalb von nur zwei Werktagen von überall auf der Welt Kapital beschaffen, ein Bankkonto eröffnen und Zahlungen akzeptieren können.

Schließen Sie sich über 100.000 Start-ups an, die mit Atlas gegründet wurden, darunter Start-ups, die von Top-Investoren wie Y Combinator (YC), a16z und General Catalyst unterstützt werden.

Unternehmen mit Atlas gründen

Das Beantragen einer Unternehmensgründung mit Atlas dauert weniger als 10 Minuten. Sie wählen Ihre Unternehmensstruktur aus, erfahren sofort, ob Ihr Unternehmensname verfügbar ist, und fügen bis zu vier Mitgründer/innen hinzu. Sie entscheiden auch über die Aufteilung Ihres Eigenkapitals und die Rückstellung eines Eigenkapitalpools für zukünftige Investorinnen und Investoren sowie Mitarbeiter/innen, benennen Mitglieder der Geschäftsführung und unterzeichnen dann alle Ihre Dokumente per E-Signatur. Alle Mitgründer/innen erhalten E-Mails mit der Aufforderung, ihre Dokumente ebenfalls per E-Signatur zu unterzeichnen.

Zahlungen und Bankgeschäfte vor Erhalt der EIN nutzen

Atlas reicht Ihren EIN-Antrag nach der Gründung automatisch ein. Sie müssen nicht warten – Atlas ermöglicht Zahlungen und Bankgeschäfte schon vor Erhalt der EIN, sodass Sie sofort Zahlungen akzeptieren und Transaktionen durchführen können. US-Gründerinnen und -Gründer mit einer Sozialversicherungsnummer (SSN) haben in der Regel Anspruch auf eine beschleunigte Bearbeitung durch den IRS.

Automatische Einreichung des 83(b)-Steuerformulars

Atlas reicht das 83(b)-Formular für Sie ein – sowohl für US- als auch für nicht-US-Gründerinnen und -Gründer – per Einschreiben des US Postal Service (USPS) mit Sendungsverfolgung, um die persönliche Einkommensteuer zu senken. Sie erhalten ein unterschriebenes 83(b)-Formular und den Einreichungsnachweis direkt in Ihrem Stripe-Dashboard, zusammen mit der Einschreibebestätigung.

Hochwertige rechtliche Unternehmensdokumente

Atlas stellt alle rechtlichen Dokumente bereit, die Sie zur Aufnahme Ihrer Geschäftstätigkeit benötigen. C-Corp.-Dokumente von Atlas werden in Zusammenarbeit mit Cooley, einer der weltweit führenden Venture-Capital-Anwaltskanzleien, erstellt. Diese Dokumente sind darauf ausgelegt, Ihnen beim sofortigen Fundraising zu helfen, und decken Aspekte wie Eigentumsstruktur, Eigenkapitalverteilung und Steuerkonformität ab, um den rechtlichen Schutz Ihres Unternehmens sicherzustellen.

Ein Jahr Stripe Payments kostenlos, plus Partnergutschriften und Rabatte im Wert von 50.000 USD

Atlas-Start-ups erhalten im ersten Jahr ein Stripe-Produktguthaben in Höhe von 2.500 USD sowie Partnerrabatte im Wert von über 50.000 USD auf wichtige Tools wie AWS, Google, Xero, Perplexity und mehr. Der Service eines registrierten Vertreters (Registered Agent) in Delaware ist im ersten Jahr ebenfalls kostenlos inbegriffen.

Erfahren Sie mehr darüber, wie Atlas Sie schnell und einfach bei der Gründung Ihres neuen Unternehmens unterstützen kann und starten Sie noch heute.

Häufig gestellte Fragen (FAQ) zum AI Act für US-Start-ups