TaoQ AI Labs
Labs
Unsere Forschung, Open-Source-Werkzeuge und Artikel, veröffentlicht, damit jeder sie lesen und prüfen kann. Arbeit für Mandanten finden Sie unter Projekte.
Open Source
Werkzeuge, die wir bauen und pflegen, und Projekte, zu denen wir beitragen.
Entwickler und Maintainer
Ziran: Open-Source-Sicherheitstests für KI-Agenten
Findet Schwachstellen in KI-Agenten: gefährliche Kombinationen von Tools, Nebenwirkungen dessen, was Agenten tatsächlich ausführen, und Vertrauen, das über mehrere Schritte ausgenutzt wird. Apache-2.0.
ENTWICKLER
WUMING
Eine Go-Bibliothek ohne Abhängigkeiten, die personenbezogene Daten in Texten erkennt und schwärzt: über 75 Detektoren für 14 Locales, mit Voreinstellungen für DSGVO, EU AI Act, HIPAA und PCI-DSS.
ENTWICKLER
WUWEI
Ein Claude-Code-Plugin, das ein Team von KI-Agenten mit festen Rollen in Ihren Repositories arbeiten lässt. Jede Änderung prüft ein Agent, der sie nicht geschrieben hat, und Hooks sichern die unumkehrbaren Schritte ab.
ENTWICKLER
QKD Playground
Ein interaktiver Simulator für Quantenschlüsselverteilung. Gehen Sie die Protokolle BB84, B92, E91 und SARG04 mit echter Qiskit-Simulation durch, schalten Sie eine Lauscherin zu und sehen Sie, wie die Fehlerrate sie verrät.
MITWIRKENDER
NVIDIA Garak
Beiträge zum Garak-LLM-Schwachstellenscanner, dem Open-Source-Werkzeug zur Untersuchung von LLMs auf Prompt Injection, Jailbreak-Anfälligkeit und weitere Fehlermodi.
MITWIRKENDER
Hugging Face Transformers
Beiträge zur Transformers-Bibliothek, einem weit verbreiteten Open-Source-Framework für die Arbeit mit großen Sprachmodellen.
Forschung
Forschungs- und Prototypenarbeit, durchgeführt über TaoQ AI, und die veröffentlichte Forschung unseres Gründers. Einige Details sind aus Gründen der Mandantenvertraulichkeit anonymisiert.
Plattform für synthetische Daten und temporale Erkennung von Online-Romance-Betrug
Angewandter KI-Forscher mit Verantwortung für die Plattformarchitektur, die Pipeline für synthetische Daten und das Framework zur temporalen Erkennung.
Geschäftslage
Werkzeuge zur Erkennung von Romance-Scams suchen meist nach bösartigen Inhalten. Betrugsnachrichten arbeiten aber mit emotionaler Manipulation, und deshalb bleibt ein großer Teil dieses Betrugs schwer zu erkennen. Kommerzielle Trainingsdatensätze für die relevanten Gesprächsmuster haben wir nicht gefunden.
Vorgehen
Eine Plattform mit hexagonaler Architektur, die eine konfigurierbare Pipeline für synthetische Konversationen (gestützt auf veröffentlichte kriminologische Forschung zur Betrugsprogression) mit einem temporalen Verhaltenserkennungsdienst kombiniert, der regelbasierte Mustererkennung, statistische Konversationsdynamik-Analyse und auf dem synthetischen Korpus trainierte ML-Klassifikation zusammenführt.
Ergebnisse
Anbieterneutraler Multi-Provider-LLM-Stack mit API-first-Bewertungsausgabe, vollständig synthetische Trainingsdaten (keine Opferdaten) und ein Forschungskooperationsrahmen für akademische Partner in den Bereichen Betrug und LLM-Sicherheit.
Evaluating the Feasibility of MITRE-Aware Large Language Models for Tactics, Techniques, and Procedures Detection in Cyber Threat Intelligence Reports
MSc Artificial Intelligence (Distinction), University of Bath. Masterarbeit unseres Gründers.
Masterarbeit
Untersucht, ob ein domänenspezifisch feinabgestimmtes Large Language Model, ausgerichtet am MITRE ATT&CK-Framework, die Erkennung von Tactics, Techniques und Procedures (TTP) in unstrukturierten Cyber-Threat-Intelligence-Berichten automatisieren kann, wo manuelle Auswertung derzeit zu Inkonsistenzen und übersehenen Bedrohungen führt. Kombiniert Causal-Language-Model-Fine-Tuning auf einer Transformer-Baseline mit einer zweistufigen Trainingsstrategie und einem hybriden Evaluationsregime (ROUGE plus LLM-as-judge qualitative Analyse). Die Ergebnisse zeigen, dass domänenspezifisches Fine-Tuning die Präzision auf kürzeren Textsegmenten erhöht, jedoch zu Lasten der Kohärenz bei längeren Ausgaben geht und gemischte Ergebnisse beim Mapping auf konkrete ATT&CK-Techniken liefert; hybride Ansätze mit Wissensgraphen und Continual Learning erweisen sich als vielversprechenderer Weg.
Artikel
Artikel zu KI-Architektur, Sicherheit und Regulierung.
- EU AI Act: What Your Engineering Team Actually Needs to Change
- Your AI Agent Has a Backdoor, Here's How I Found It
- Lessons from building AI architecture at scale
Forschungskooperationen
Offen für akademische Partner, Beiräte und gemeinsame Forschung zu synthetischen Daten, Sicherheitstests für KI-Agenten und Engineering für KI-Regulierung.
Schreiben Sie uns