In diesem Artikel fassen wir den regulatorischen Ansatz des Vorschlags der Europäischen Kommission für einen „EU Kids Act“ zusammen.
In Artikel 1 der Verordnung wird benannt, was die Regulierung im Kern umfasst:
(a) ein harmonisiertes Mindestalter für die Einrichtung eines Kontos bei sozialen Online-Netzwerken und Videoplattformen;
(b) harmonisierte Sicherheitsanforderungen für soziale Online-Netzwerke, Videoplattformen, Videospielplattformen und App-Stores sowie harmonisierte Sicherheitsanforderungen zum Schutz Minderjähriger im Internet bei Videospielen, KI-Begleitern und allgemeinen Chatbots;
(c) harmonisierte Vorschriften zur Altersfeststellung im Internet.
Wichtig ist in diesem Zusammenhang erstens, sich der Unterscheidung zwischen der Festlegung einer Altersgrenze gemäß Buchstabe a – die ausschließlich für soziale Online-Netzwerke und Videoplattformdienste gilt – und dem Konzept eines „Safety-by-Design“-Ansatzes bewusst zu sein, der gemäß Buchstabe b für ein breiteres Spektrum digitaler Dienste gilt. Zweitens bezieht sich die Verordnung auf Minderjährige im Sinne der UN-Konvention über die Rechte des Kindes, d. h. auf jede natürliche Person unter 18 Jahren. Auch wenn viele der vorgeschlagenen Vorschriften alle Minderjährigen unter 18 Jahren betreffen, doch gelten einige spezifische Vorschriften für Minderjährige unter 13 Jahren und andere für Minderjährige zwischen 13 und unter 15 Jahren. Damit folgt die Verordnung dem von den Ko-Vorsitzenden des Special Panels für die Online-Sicherheit von Kindern empfohlenen entwicklungsorientierten Ansatz, der auch im Einklang mit dem in der UN-Kinderrechtskonvention verankerten Grundsatz der sich entwickelnden Fähigkeiten des Kindes steht.
Laut der Begründung stützt sich der Vorschlag auf Artikel 114 des Vertrags über die Arbeitsweise der Europäischen Union. Dieser sieht die Festlegung von Maßnahmen zur Gewährleistung des Funktionierens des Binnenmarkts vor. Die Europäische Kommission führt dazu aus, dass die „Bestimmungen des Vorschlags in Bezug auf sichere Angebotsgestaltungen diejenigen Spezifikationen der Leitlinien gemäß Artikel 28 Absatz 4 des DSA als Norm verankern“, „welche Anforderungen an ‚Safety by Design‘ und an die Altersfeststellung betreffen“.
Der Anwendungsbereich des Vorschlags umfasst soziale Online-Netzwerke, Videoplattformen, Videospielplattformen und App-Stores sowie harmonisierte Sicherheitsanforderungen zum Schutz von Minderjährigen im Internet in Bezug auf Videospiele, KI-Begleiter und allgemeine Chatbots, unabhängig von ihrer Größe oder der Anzahl der Nutzenden. Im Gegensatz zu Artikel 28 DSA sind Klein- und Kleinstunternehmen nicht ausgenommen, da auch deren Angebote Minderjährigen Schaden zufügen können. Eine Ausnahme vom Anwendungsbereich ist vorgesehen für Plattformen wie gemeinnützige Online-Enzyklopädien, gemeinnützige Bildungs- und Wissensdatenbanken, Dienste und Systeme, die ausschließlich für Bildungszwecke konzipiert sind und innerhalb von Bildungseinrichtungen oder -organisationen betrieben werden, sowie Plattformen zur Entwicklung und zum Austausch von Open-Source-Software, sofern die Plattform selbst kein KI-System im Sinne des Vorschlags darstellt, weil davon auszugehen ist, dass die zuvor genannten Angebote keine Risiken für Minderjährige bergen.
Insgesamt folgt der Vorschlag einem risikobasierten Ansatz, dessen Kernstück Artikel 6 „Verzögerte Einrichtung und Nutzung von Konten“ bildet. Wenn soziale Online-Netzwerke und Videoplattformen ein Risiko für die Privatsphäre, die Sicherheit oder den Schutz von Minderjährigen unter 15 Jahren darstellen, dürfen sie diesen Minderjährigen nicht gestatten, ein Konto bei diesem Dienst einzurichten oder über ein Konto auf diesen Dienst zuzugreifen. Als risikobehaftet im Sinne des Vorschlags gelten die folgenden Funktionen: die Übertragung von Inhalten in Echtzeit an eine unbestimmte Anzahl von anderen Nutzenden, Kontakt, Kommunikation und Interaktion mit anderen Nutzenden über ein Konto, Empfehlungssysteme, Funktionen, die eine ununterbrochenen Konsum von Inhalten ermöglichen und solche Nutzung fördern, sowie die Übermittlung automatisierter Benachrichtigungen, die Nutzende dazu anregen sollen, einen Dienst zu öffnen oder dessen Nutzung fortzusetzen. Sofern Anbieter von sozialen Online-Netzwerken und Videoplattformen bestimmte Bedingungen erfüllen, dürfen sie Erziehungsverantwortlichen gestatten, Konten für Minderjährige im Alter ab 13 Jahren und unter 15 Jahren mit eingeschränkten Funktionen einzurichten. Voraussetzungen hierfür sind, dass die Begleitmechanismen für Erziehungsverantwortliche aktiviert sind, dass Erziehungsverantwortliche die Möglichkeit haben, eine maximale tägliche Nutzungsdauer für das Angebot über dieses Konto festzulegen, die eine Stunde pro Tag nicht überschreiten darf, und dass Erziehungsverantwortliche die Möglichkeit haben, potenzielle neue Kontakte vorab zu genehmigen und eine maximale Obergrenze für die Anzahl der Kontakte des Kontos festzulegen. Eine weitere Voraussetzung ist, dass Maßnahmen getroffen werden, um festzustellen, ob die Person, die das Konto erstellt, gemäß Artikel 26 die elterliche Verantwortung für diesen Minderjährigen trägt, und um zu überprüfen, ob der Nutzer des Dienstes gemäß Artikel 28 Absatz 1 das 13. Lebensjahr vollendet hat.
Für bereits bestehende Konten verpflichtet Artikel 32 des Vorschlags soziale Online-Netzwerke und Videoplattformen, eine Lösung zur Altersfeststellung gemäß Artikel 30 Absatz 2 zu nutzen. Abweichend davon sind die Anbieter jedoch nicht verpflichtet, eine Altersfeststellung durchzuführen, wenn sie mit hoher Sicherheit feststellen können, dass Nutzende des Dienstes das in Artikel 6 festgelegte Mindestalter erreicht haben.
Für Anbieter von Videoplattformdiensten, deren Dienst speziell für Minderjährige konzipiert ist und in deren Nutzungsbedingungen ausdrücklich der Zugang für Minderjährige unter 13 Jahren gestattet wird, sehen die vorgeschlagenen Vorschriften in Artikel 7 die Möglichkeit eines von Erziehungsverantwortlichen kontrollierten Zugangs für Minderjährige unter 13 Jahren vor. Voraussetzungen für diese Möglichkeit sind, dass der Zugang des Minderjährigen ausschließlich über das eigene Konto des Erziehungsverantwortlichen erfolgt und mittels der Begleitmöglichkeiten für Erziehungsverantwortliche kontrolliert wird. Darüber hinaus ist der Anbieter verpflichtet, eine Bewertung der Auswirkungen des Dienstes auf Minderjährige innerhalb der festgelegten Altersgruppe durchzuführen und zu veröffentlichen. Ebenso muss klar und transparent dargelegt werden, welche Inhalte oder Verhaltensweisen als nicht altersgerecht oder als schädlich für die Privatsphäre, die Sicherheit und den Schutz von Minderjährigen innerhalb der festgelegten Altersgruppe gelten. Zugang zu solchen Inhalten darf Minderjährigen nicht gewährt werden, verfügbare Merkmale und Funktionen sind abzuschalten bzw. schrittweise an das Alter des Minderjährigen anzupassen. Auch sollen alle Personalisierungsmerkmale und Empfehlungssysteme sowie jegliche Funktionen zur Suche nach Inhalten, die von anderen Nutzenden des Dienstes geteilt wurden, deaktiviert werden. Weiterhin muss der Anbieter Bedingungen erfüllen, um sicherzustellen, dass der von Erziehungsverantwortlichen kontrollierte Zugang die Privatsphäre der minderjährigen Person nicht unverhältnismäßig einschränkt und die Autonomie und Handlungsfähigkeit der minderjährigen Person fördert, z. B., dass ein solcher Zugang für Minderjährige unter 3 Jahren nicht ermöglicht wird und dass ein von der erziehungsverantwortlichen Person kontrollierter Zugang beendet wird, sobald die minderjährige Person das 12. Lebensjahr vollendet hat.
Artikel 8 legt eine allgemeine Verpflichtung zur sicheren Gestaltung der Angebote für alle in Artikel 1 Buchstabe b genannten Dienste fest, ohne die in den Artikeln 6 und 7 festgelegten Verpflichtungen zu schmälern. Darüber hinaus werden in den folgenden Artikeln weitergehende Verpflichtungen hinsichtlich der sicheren Gestaltung der Angebote festgelegt, die nach den Arten digitaler Dienste differenziert werden.
In den Anwendungsbereich der Artikel 9 bis 13 fallen soziale Online-Netzwerke und Videoplattformdienste unter Bezugnahme auf Minderjährige – d. h. Personen unter 18 Jahren – als Nutzende solcher Dienste, ohne dass eine weitere Unterscheidung nach Altersgruppen vorgenommen wird. Die darauffolgenden Verpflichtungen in Bezug auf suchtförderndes Design (Art. 9), Empfehlungssysteme (Art. 10), sichere Einstellungen (Art. 11), Schutzmaßnahmen bei Kontakt und Interaktion (Art. 12) sowie Sicherheit und Schutz wirtschaftlicher Transaktionen (Art. 13) entsprechen größtenteils den Leitlinien gemäß Artikel 28 Abs. 4 des DSA. Mit der folgenden, nahezu identischen Formulierung „Anbieter sollten mindestens …“ führen diese fünf Artikel eine nicht abgeschlossene Liste von Maßnahmen ein, die von den Anbietern sozialer Online-Netzwerke und von Videoplattformdiensten zu ergreifen oder einzurichten sind.
Mit den Artikeln 14 und 15 geht der Vorschlag für einen EU-Kids-Act über den DSA hinaus. In diesen befasst er sich mit KI-Begleitern und Online-Spielen, die nicht in den Anwendungsbereich von Art. 28 Abs. 1 DSA fallen. Artikel 14 legt Verpflichtungen für KI-Begleiter und allgemeine Chatbots fest unter Bezugnahme auf Minderjährige als Nutzende. Eine weitere Unterscheidung nach dem Alter der Minderjährigen findet mit Ausnahme von Art. 14 Abs. 1 Buchstabe d nicht statt. Demnach müssen Anbieter von KI-Begleitern und allgemeinen Chatbots sicherstellen, dass der Zugang für Minderjährige unter 13 Jahren nur mithilfe der Begleitfunktionen für Erziehungsverantwortliche ermöglicht und kontrolliert wird. Von Bedeutung ist in diesem Zusammenhang, dass Artikel 14 Absatz 2 auch KI-Begleiter und allgemeine Chatbots adressiert, welche als Funktionen in anderen Arten von Diensten integriert sind.
Artikel 15 legt Verpflichtungen für Anbieter von Online-Spielen fest, wiederum ohne weitere Unterscheidung nach Altersgruppen. Artikel 15, Absatz 1 Buchstabe d bestimmt allerdings, dass Anbieter sicherstellen müssen, dass der Zugang zu solchen Diensten für Minderjährige unter 13 Jahren nur mithilfe der Begleitfunktionen für Erziehungsverantwortliche ermöglicht und kontrolliert wird.
Beide vorgenannten Artikel beziehen sich auf suchterzeugende Gestaltungen und solche, die zu übermäßiger Nutzung anregen. Insbesondere Anbieter von Online-Spielen sind verpflichtet, zu verhindern, dass das Spiel dafür genutzt wird, Minderjährige zu verleiten, Kontakte auf anderen Diensten zu initiieren.
Die für soziale Online-Netzwerke und Videoplattformen vorgesehenen Altersgrenzen gelten nicht für Anbieter von Online-Spielen. Deshalb wird im Rahmen der Verpflichtungen für Betreiber von App-Stores in Artikel 16 eine zusätzliche Sicherheitsmaßnahme etabliert. Diese Anbieter sind verpflichtet, ein Alterseinstufungssystem einzurichten, um die jeweilige Altersangemessenheit der über ihren Dienst verbreiteten Softwareanwendungen festzustellen. Minderjährigen dürfen sie den Zugriff auf oder den Kauf von Apps, die für das jeweilige Alter ungeeignet sind, nicht gestatten.
Die spezifischen Ansätze zu Altersgrenzen und „Safety-by-Design“-Maßnahmen werden durch Abschnitt VI des Vorschlags ergänzt, der sich mit allgemeinen Verpflichtungen hinsichtlich der Handlungsfähigkeit von Minderjährigen sowie mit Instrumenten zur Stärkung der Selbstbestimmung von Minderjährigen und Erziehungsverantwortlichen befasst und für alle Arten von Diensten gilt. Im Einklang mit den Bestimmungen der Leitlinien gemäß Artikel 28 Absatz 4 DSA im Abschnitt 6.5.2 zur Nutzerkontrolle und ‑befähigung sowie Abschnitt 7.1 zu Nutzermeldungen, Rückmeldungen und Beschwerden definieren die Artikel 18 und 19 Verpflichtungen hinsichtlich der Selbstbestimmung von Minderjährigen sowie kindgerechter Melde- und Unterstützungsinstrumente für Minderjährige. Darüber hinaus verpflichtet Artikel 20 die Anbieter, wirksame, barrierefreie und benutzerfreundliche Instrumente für Erziehungsverantwortliche einzuführen, die auf das Alter der minderjährigen Person zugeschnitten sind, deren schrittweise Entwicklung angemessen berücksichtigen und für Minderjährige und Erziehungsverantwortliche leicht zugänglich und aktivierbar sind.
Um sicherzustellen, dass die in den Artikeln 5 und 6 des Vorschlags festgelegten Altersgrenzen sowie die Verpflichtungen für Anbieter von App-Stores hinsichtlich altersbedingter Einschränkungen die beabsichtigte Wirkung entfalten können, enthält der Vorschlag in Artikel 26 Vorgaben zur Verifizierung der elterlichen Verantwortung. In diesem wird festgelegt, wie Anbieter Anhaltspunkte für das Vorliegen der elterlichen Verantwortung nutzen sollen, und zwar entweder auf der Grundlage frei zugänglicher offizieller Online-Datenbanken oder anhand anderer Anhaltspunkte, über die sie möglicherweise bereits auf Grundlage der bisherigen Interaktionen der jeweiligen minderjährigen Person und des Erwachsenen mit elterlicher Verantwortung mit ihrem Dienst verfügen. Daraus ergibt sich für die Mitgliedstaaten gemäß Artikel 31 die Verpflichtung, mindestens ein datenschutzkonformes elektronisches Verfahren bereitzustellen, mit dem eine erziehungsverantwortliche Person einen Nachweis der elterlichen Verantwortung in Bezug auf eine minderjährige Person einholen und vorlegen kann, und zwar kostenlos für den die erziehungsverantwortliche Person und effektiv zugänglich für alle Bürger*innen sowie Erziehungsverantwortliche und Minderjährige, die in ihrem Hoheitsgebiet ansässig sind, einschließlich Gruppen, die besonderer Unterstützung bedürfen, z. B. Migrant*innen.
Darüber hinaus enthält der Vorschlag ein ganzes Kapitel zur Altersfeststellung, das im Wesentlichen mit den Vorgaben der DSA 28 (4) Leitlinien, Abschnitt 6.1 „Altersfeststellung“, im Einklang steht.
Artikel 27 bestimmt allgemeine Grundsätze für die Altersfeststellung, darunter ein hohes Maß an Genauigkeit, Zuverlässigkeit, Sicherheit, Robustheit, Sparsamkeit, Datenschutz und Nichtdiskriminierung. Artikel 28 widmet sich insbesondere dem Datenschutz bei der Altersfeststellung und legt dar, dass Lösungen zur Altersfeststellung weder die Identifizierung der betroffenen Person ermöglichen noch diese lokalisieren, verfolgen, gezielt ansprechen, ihr Werbung zukommen lassen oder ein Profil von ihr erstellen dürfen. Weiterhin umfasst der Artikel den Grundsatz der Datenminimierung, den Einsatz modernster Technologie und Zero-Knowledge-Proofs sowie weitere technische und organisatorische Maßnahmen.
Spezifische Verpflichtungen in Bezug auf Lösungen zur Altersfeststellung sind in Artikel 29 festgelegt. Um festzustellen, ob der Empfänger eines Dienstes das Mindestalter gemäß den Bestimmungen von Artikel 6 des Vorschlags erreicht hat oder, falls zutreffend, ob die Einrichtung eines Elternkontos erforderlich ist, sollen sich die Anbieter ausschließlich auf eine EU-Altersfeststellungslösung stützen, die einen von einer dritten Instanz bereitgestellten EU-Altersnachweis verwendet, welcher als konform mit dem EU-Altersfeststellungssystem zertifiziert wurde. Zur Einhaltung der allgemeinen Verpflichtung zur sicheren Angebotsgestaltung gemäß Artikel 8 und der spezifischen Verpflichtungen für Anbieter von App-Stores gemäß Artikel 16 Absätze 2 und 3 können andere Lösungen zur Altersfeststellung als die EU-Lösungen zur Altersfeststellung verwendet werden, sofern diese Lösungen die in Artikel 27 und Artikel 28 des Vorschlags festgelegten Anforderungen erfüllen.
Insgesamt zielt der Vorschlag der Europäischen Kommission darauf ab, die Achtung der Rechte des Kindes im Internet, wie sie in der Charta der Grundrechte der Europäischen Union insbesondere in Art. 24 Abs. 1 und Art. 10 Abs. 1, verankert sind, zu verbessern, zu fördern und zu unterstützen.