Heute startete die Initiative Robust Open Online Safety Tools (ROOST) beim Aktionsgipfel zur Künstlichen Intelligenz in Paris. ROOST ist eine neue gemeinnützige Organisation, die am Institute of Global Politics an der School of International and Public Affairs der Columbia University angesiedelt ist und das Fachwissen, die Ressourcen und die Investitionen großer Technologieunternehmen und Stiftungen zusammenführt, um eine skalierbare, interoperable Sicherheitsinfrastruktur für das Zeitalter der KI aufzubauen. Zu den Gründungspartnern von ROOST gehören Eric Schmidt, Discord, OpenAI, Google, Roblox, John S. and James L. Knight Foundation, AI Collaborative, Patrick J. McGovern Foundation und Project Liberty Institute. ROOST profitiert auch von der Unterstützung und dem Fachwissen einer Vielzahl von Partnern aus den Bereichen KI, Philanthropie, Wissenschaft, Open Source, Kindersicherheit und Bekämpfung von gewalttätigem Extremismus.
ROOST ist eine der bedeutendsten Ankündigungen des Aktionsgipfel zur Künstlichen Intelligenz und schließt eine wichtige Lücke im Bereich der digitalen Sicherheit, insbesondere der Sicherheit von Kindern im Internet, indem es privaten und öffentlichen Organisationen jeder Größe rund um die Welt kostenlose Open-Source-Sicherheitstools zur Verfügung stellt.
Mit der kontinuierlichen Weiterentwicklung innovativer Techniken verändert sich auch die Sicherheit im Internet. . Die generative KI beeinflusst das Onlineumfeld und erhöht die Notwendigkeit einer zuverlässigen und zugänglichen Sicherheitsinfrastruktur. ROOST wird kostenlose, entwicklerfreundliche Open-Source-Tools zur Erkennung, Überprüfung und Meldung von Material über sexuellen Kindesmissbrauch (CSAM) bereitstellen, große Sprachmodelle (LLMs) zur Unterstützung der Sicherheitsinfrastruktur nutzen und allgemeine Sicherheitstechniken leichter zugänglich und benutzerfreundlicher machen. Mithilfe von einem engagierten technischen Team, das praktische Unterstützung bietet, wird ROOST die Organisationen dort abholen, wo sie stehen, und ihnen dabei helfen, robuste Sicherheitsmaßnahmen in ihre Produkte zu integrieren und gleichzeitig weiter zu innovieren.
Mit ROOST müssen Organisationen das Rad nicht jedes Mal neu erfinden, da das Angebot auf bereits vorhandenen Tools aufbaut. So können insbesondere kleinere Unternehmen und gemeinnützige Organisationen ihre Ressourcen ganz auf den Ausbau ihrer Plattformen oder Dienste konzentrieren und zugleich die Sicherheit ihrer Nutzer fördern.
Bis heute hat ROOST mehr als 27 Millionen US-Dollar von einer Reihe bekannter Philanthropien und führender Technikunternehmen erhalten und sichert damit sein Bestehen für vier Jahre. ROOST möchte sein Wachstum beschleunigen und sein Angebot auf so viele Organisationen wie möglich ausweiten.