Fallstudie: Konversations-KI
Über 3 Stunden gesammelter, segmentierter und transkribierter Daten zum Aufbau von ASR in 8 indischen Sprachen
Ziel der Regierung ist es, ihren Bürgern durch das Bhashini-Projekt einen einfachen Zugang zum Internet und zu digitalen Diensten in ihrer eigenen Muttersprache zu ermöglichen.
BHASHINI, Indiens KI-gesteuerte Sprachübersetzungsplattform, ist ein wichtiger Teil der Digital India-Initiative.
Die Bhashini-Plattform wurde entwickelt, um KKMU, Start-ups und unabhängigen Innovatoren Tools für künstliche Intelligenz (KI) und Verarbeitung natürlicher Sprache (NLP) bereitzustellen und dient als öffentliche Ressource. Sein Ziel ist es, die digitale Inklusion zu fördern, indem es indischen Bürgern ermöglicht, in ihrer Muttersprache mit den digitalen Initiativen des Landes zu interagieren.
Darüber hinaus soll die Verfügbarkeit von Internetinhalten in indischen Sprachen deutlich erweitert werden. Dies ist insbesondere auf Bereiche von öffentlichem Interesse wie Regierungsführung und Politik, Wissenschaft und Technologie usw. ausgerichtet. Folglich wird dies den Bürgern einen Anreiz geben, das Internet in ihrer eigenen Sprache zu nutzen, und ihre aktive Teilnahme fördern.
Real-World-Lösung
Die Macht der Lokalisierung mit Daten freisetzen
Indien benötigte eine Plattform, die sich auf die Erstellung mehrsprachiger Datensätze und KI-basierter Sprachtechnologielösungen konzentriert, um digitale Dienste in indischen Sprachen anzubieten. Um diese Initiative zu starten, ging das Indian Institute of Technology Madras (IIT Madras) eine Partnerschaft mit Shaip ein, um Datensätze indischer Sprachen zu sammeln, zu segmentieren und zu transkribieren und so mehrsprachige Sprachmodelle zu entwickeln.
Challenges
Um den Kunden bei seiner Speech Technology-Sprach-Roadmap für indische Sprachen zu unterstützen, musste das Team große Mengen an Trainingsdaten erfassen, segmentieren und transkribieren, um ein KI-Modell zu erstellen. Die entscheidenden Anforderungen des Kunden waren:
Datensammlung
- Erfassen Sie 3000 Stunden Trainingsdaten in 8 indischen Sprachen mit 4 Dialekten pro Sprache.
- Für jede Sprache sammelt der Anbieter Extempore Speech und
Konversationsrede für Altersgruppen von 18 bis 60 Jahren - Sorgen Sie für einen vielfältigen Sprechermix nach Alter, Geschlecht, Bildung und Dialekten
- Stellen Sie eine vielfältige Mischung von Aufnahmeumgebungen gemäß den Spezifikationen sicher.
- Jede Audioaufnahme muss mindestens 16 kHz, aber vorzugsweise 44 kHz haben
Datensegmentierung
- Erstellen Sie Sprachsegmente von 15 Sekunden und versehen Sie den Ton mit einem Zeitstempel auf Millisekunden für jeden bestimmten Sprecher, jede Art von Ton (Sprache, Geplapper, Musik, Lärm), Wendungen, Äußerungen und Phrasen in einem Gespräch
- Erstellen Sie jedes Segment für sein Zieltonsignal mit einer Auffüllung von 200–400 Millisekunden am Anfang und Ende.
- Für alle Segmente müssen die folgenden Objekte ausgefüllt werden, d. h. Startzeit, Endzeit, Segment-ID, Lautstärkepegel, Tontyp, Sprachcode, Sprecher-ID usw.
Datentranskription
- Befolgen Sie die detaillierten Transkriptionsrichtlinien zu Zeichen und Sonderzeichen, Rechtschreibung und Grammatik, Großschreibung, Abkürzungen, Kontraktionen, einzelnen gesprochenen Buchstaben, Zahlen, Satzzeichen, Akronymen, Disfluent, Sprache, unverständlicher Sprache, Nicht-Zielsprachen, Nicht-Sprache usw.
Qualitätsprüfung und Feedback
- Alle Aufnahmen müssen einer Qualitätsbewertung und Validierung unterzogen werden, es werden nur validierte Reden geliefert
Lösung
Dank unseres profunden Verständnisses von dialogorientierter KI haben wir dem Kunden mit einem Team aus erfahrenen Datensammlern, Linguisten und Annotatoren geholfen, die Daten zu sammeln, zu segmentieren und zu transkribieren, um einen großen Korpus von Audiodatensätzen in 8 indischen Sprachen zu erstellen.
Der Arbeitsumfang für Shaip umfasste unter anderem die Beschaffung großer Mengen an Audio-Trainingsdaten, die Segmentierung der Audioaufnahmen in mehrere Segmente, die Transkription der Daten und die Bereitstellung entsprechender JSON-Dateien mit den Metadaten [SpeakerID, Alter, Geschlecht, Sprache, Dialekt, Muttersprache, Qualifikation, Beruf, Fachgebiet, Dateiformat, Frequenz, Kanal, Audiotyp, Anzahl der Sprecher, Anzahl der Fremdsprachen, verwendete Konfiguration, Schmalband- oder Breitband-Audio usw.].
Shaip sammelte 3000 Stunden Audiodaten in großem Maßstab und behielt dabei die gewünschte Qualität bei, die zum Trainieren der Sprachtechnologie für komplexe Projekte erforderlich ist. Von jedem Teilnehmer wurde eine ausdrückliche Einwilligungserklärung eingeholt.
1. Datensammlung
2. Datensegmentierung
- Die gesammelten Audiodaten wurden zusätzlich in jeweils 15 Sekunden lange Sprachsegmente unterteilt und mit Millisekunden-Zeitstempeln versehen, die jeden Sprecher, jede Art von Geräusch, jeden Redebeitrag, jede Äußerung und jede Phrase in einem Gespräch dokumentieren.
- Jedes Segment wurde für sein Zieltonsignal mit einer Auffüllung von 200–400 Millisekunden am Anfang und Ende eines Tonsignals erstellt.
- Für alle Segmente waren die folgenden Objekte vorhanden und ausgefüllt, d. h. Startzeit, Endzeit, Segment-ID, Lautstärkepegel (Laut, Normal, Leise), Primärer Tontyp (Sprache, Geplapper, Musik, Lärm, Überlappung), Sprachcode-Sprecher-ID, Transkription usw.
3. Qualitätsprüfung und Feedback
- Alle Aufnahmen wurden auf ihre Qualität hin bewertet und es wurden nur validierte Sprachaufnahmen mit einer WER von 90 % und einer TER von 90 % geliefert
- Befolgte Qualitätscheckliste:
» Maximal 15 Sekunden Segmentlänge
» Transkription aus bestimmten Bereichen, nämlich: Wetter, verschiedene Arten von Nachrichten, Gesundheit, Landwirtschaft, Bildung, Arbeit oder Finanzen
» Geringe Hintergrundgeräusche
» Kein Audio-Clip aus – Keine Verzerrung
» Korrekte Audiosegmentierung für die Transkription
4. Datentranskription
Alle gesprochenen Wörter, einschließlich Zögern, Füllwörter, Fehlstarts und andere verbale Ticks, wurden in der Transkription genau erfasst. Wir haben auch die detaillierten Transkriptionsrichtlinien zu Groß- und Kleinbuchstaben, Rechtschreibung, Groß- und Kleinschreibung, Abkürzungen, Kontraktionen, Zahlen usw. befolgt.
Interpunktion, Akronyme, disfluente Sprache, Nicht-Sprachgeräusche usw. Darüber hinaus ist der Arbeitsablauf für die Sammlung und Transkription wie folgt:
Ergebnis
Die hochwertigen Audiodaten von erfahrenen Linguisten werden es dem Indian Institute of Technology – Madras ermöglichen, in der vorgegebenen Zeit mehrsprachige Spracherkennungsmodelle in 8 indischen Sprachen mit unterschiedlichen Dialekten präzise zu trainieren und zu erstellen. Die Spracherkennungsmodelle können verwendet werden, um:
- Überwinden Sie Sprachbarrieren für die digitale Integration, indem Sie die Bürger mit den Initiativen in ihrer eigenen Muttersprache verbinden.
- Fördert digitale Governance
- Katalysator zur Bildung eines Ökosystems für Dienstleistungen und Produkte in indischen Sprachen
- Lokalisiertere digitale Inhalte in Bereichen von öffentlichem Interesse, insbesondere Governance und Politik
Wir waren von Shaips Expertise im Bereich der dialogorientierten KI beeindruckt. Ihre Kompetenz in der Projektabwicklung – von der Beschaffung, Segmentierung und Transkription bis hin zur Bereitstellung der benötigten Trainingsdaten von Fachlinguisten in acht Sprachen – war innerhalb strenger Zeitvorgaben und Richtlinien bemerkenswert; und das bei gleichbleibend hohem Qualitätsstandard.
