Sprachsynthese

Die Idee

Was tut man, wenn man täglich eine bis eineinhalb Stunden alleine im Auto sitzt? Radio hören ist nicht schlecht, aber man kann die Zeit auch sinnvoller nutzen und all die Vorträge anhören, für die man sich zu Hause doch nie die Zeit nimmt.

Wenn man sich ein Radio zulegt, das MP3 abspielen kann (z.B. das recht günstige VDO CD 139 MP3), hat man erstmal ausgesorgt - auf eine CD passen schliesslich Stunden. Oder man brennt die Vorträge einzeln auf eine Audio-CD.  Ich habe auch gehört, es gäbe Adapter, über die man einen MP3-Player an ein Autoradio anschliessen kann. Möglichkeiten gibt es genug!

Nur: was tun, wenn ein Ende absehbar ist? Man ist durch mit den Vorträgen, die man auf CD hat oder bringen kann? Ich dachte mir: Man müsste sich doch Bücher vorlesen lassen können! Und tatsächlich, nach ein bisschen Bastelei klappt es wunderbar: man kann PDF-Dateien sehr leicht in MP3 konvertieren.

Was braucht man dafür?

Alles, was man dafür braucht, bekommt man kostenlos (ich sag's aber gleich: das Ergebnis ist entsprechend ...):

• Linux. Das ist wahrscheinlich keine unabdingbare Voraussetzung (ich glaube, man bekommt alles, was man braucht, auch für Windows), aber ich beschreibe hier das Verfahren unter Linux.
• Gegebenenfalls ein Tool, das PDF in Text umwandelt (dafür nehmen wir pdftotext; das ist mit ziemlicher Sicherheit bei der Linux-Distribution schon mit dabei)
• Eine Software, die den Text in einen phonetischen Zwischencode umwandelt (dafür nehmen wir txt2pho)
• Eine Software, die den phonetischen Zwischencode in Sprache umwandelt (dafür nehmen wir mbrola)
• Eine Tool, das das WAV, das mbrola ausspuckt, in MP3 wandelt (dafür nehmen wir lame; das ist bei der Linux-Distribution wahrscheinlich auch schon mit dabei)

Das wäre eigentlich schon alles. Aber ich habe noch Tools geschrieben, die zusätzlich zum Einsatz kommen:

• msfilter.pl - bereitet den Ausgangstext ein wenig auf
• txt2mp3.sh - vereinfacht den Prozess

So hört es sich an

Ein Beispiel: beispiel.mp3

Wie schon angedeutet - man darf von Tools, die es umsonst gibt nicht erwarten, dass die Ausgabe klingt wie Elmar Gunsch. Man merkt schon deutlich, dass die Stimme künstlich ist, aber so schlecht ist sie auch nicht, oder? Das Tempo ist ein wenig verlangsamt, damit man sich im Auto nicht all zu sehr darauf konzentrieren muss, das Gesprochene zu verstehen. Aber Geschwindigkeit und Tonhöhe kann man sehr leicht variieren.

An dieser Stelle verabschiede ich mich von denjenigen, denen die erzielte Qualität nicht ausreicht.

Den anderen erkläre ich jetzt, wie es funktioniert.

Installation der benötigten Software

pdftotext

Dieses Tool sollte schon vorhanden sein. Wer eine Distribution benutzt, die es nicht mitbringt, weiss sicher auch, wo und wie er es bekommt ;-)

txt2pho und mbrola

Leider bedeutet die Installation dieser Pakete (Download über die Links oben; ich empfehle die männliche Stimme de6) einiges an Handarbeit, die den  Maus-und-Fenster-Linuxer abschrecken wird - dafür hat man hinterher aber auch begriffen, wie alles funktioniert und zusammen hängt. Man kann damit nämlich auch alles mögliche andere machen als nur PDFs in MP3s wandeln.

Diese beiden Pakete installieren wir also gemäss "Lesestunde" oder "SprachAusgabe"; das sind zwei sehr gute Artikel über die Thematik. Allerdings würde ich die Dinge nicht in /usr/local installieren, sondern in /opt, aber das ist Geschmackssache.

Wer möchte, kann die Filter, die txt2pho mitbringt (numfilt, pipefilt, preproc) auch installieren. Ich rate für den Augenblick jedoch davon ab.

lame

Für lame gilt dasselbe wie für pdftotext.

Im Grunde hat man damit schon alles, was man für die Konvertierung braucht. Daher empfehle ich  an dieser Stelle, mit dem bisher Installierten erstmal ein wenig zu experimentieren. Wenn es bisher nämlich Probleme gibt, klappt auch alles folgende nicht. Also: ausprobieren!

Funktioniert alles, geht es weiter mit:

txt2mp3.sh

Filter

Vorsicht! msfilter.ini enthält Umlaute; die Datei muss daher ggf. an die Locale des Zielsystems angepasst werden.

Die Konvertierung an einem Beispiel erklärt

Da jetzt alles Nötige installiert ist und hoffentlich funktioniert, können wir daran gehen, einen ersten Text zu konvertieren.

Auswahl eines geeigneten Textes

Es eignen sich selbstverständlich nicht alle Texte gleichermassen zur Konvertierung. Am besten klappt es natürlich mit solchen, die von A bis Z aus einfachem Text bestehen. Kompliziertes Layout, Tabellen und dergleichen führen zu schlechten Ergebnissen. Seitenzahlen, Kolumnentitel, Anmerkungen am Seitenende etc. sind nicht verhängnisvoll, machen aber beim Vorbereiten des Textes Arbeit.

Konvertierung von PDF in einfachen Text

Wir nehmen die Datei test.pdf und wandeln sie mit pdftotext in eine Datei mit einfachem Text um:

Dieser Befehl erzeugt die Datei test.txt, die nur noch den in test.pdf enthaltenen Text enthält, keine grafischen Elemente mehr. Der Parameter -nopgbrk sorgt dafür, dass auch keine Seitenvorschübe (das Zeichen ^L) im Ergebnis enthalten sind. Mit weiteren Parametern kann man dafür sorgen, dass nur bestimmte Seiten extrahiert werden (bei Bedarf siehe dazu die man-Page von pdftotext).

Damit hätten wir jetzt den Ausgangstext vorliegen.

Manuelle Vorarbeiten

Zwar werden wir später mit msfilter.pl einiges automatisiert verbessern, aber es hilft nichts: Zunächst müssen wir uns den Ausgangstext ansehen, ob irgend welche störenden Elemente drin sind. Unter anderem sollte man achten auf

• Umlaute Werden die Umlaute korrekt dargestellt? Wenn nicht: Kann man sie in einem Editor leicht durch die korrekten ersetzen? Wenn nicht, sollte man pdftotext nochmal ausführen, diesmal aber mit dem Parameter -enc UTF-8. Der sorgt dafür, dass die Umlaute in den Zeichensatz UTF-8 gewandelt werden - dann erkennt man sie sicher und kann sie per Suchen & Ersetzen  in die benötigten Zeichen umwandeln.
• Seitenzahlen Man wird kaum wollen, dass einem die Seitenzahlen vorgelesen werden, also raus damit. Möglicherweise wird man das von Hand erledigen müssen, wahrscheinlich kann das aber auch der Texteditor auf einen Schlag erledigen. Wenn die Seitenzahlen z.B. jeweils am Ende einer Zeile stehen, kann man sie im Emacs durch folgenden Befehl eliminieren: replace-regexp  [0-9]+$ RETURN RETURN. Zu deutsch: ersetze eine beliebig lange Folge von Ziffern am Zeilenende durch gar nichts.
• Kolumnentitel Das sind die Überschriften, die sich im Kopf jeder Seite wiederholen. Die fliegen per Suchen & Ersetzen raus. Aber Vorsicht: bedingtes Suchen & Ersetzen verwenden - es könnte ja sein, dass der String auch im normalen Text vorkommt!
• Typographische Besonderheiten Vielleicht wurden "Anführungszeichen unten" als ",," (zwei Kommata) extrahiert. Die sollte man per Suchen & Ersetzen in normale Anführungszeichen umwandeln - nicht dass der Synthesizer die Stimme hebt und eine ungewollte Pause einfügt oder so.
• Überschriften. Man darf sich von der Struktur des Textes nicht täuschen lassen. Wenn Überschriften alleine auf einer Zeile stehen, heisst das noch lange nicht, dass der Synthesizer danach eine Pause macht! Die Sprachausgabe hat mit dem "Layout" nichts zu tun. Wir fügen also nach jeder Überschrift einen Punkt ein.
• Grossbuchstaben Wörter in GROSSBUCHSTABEN haben den Nachteil, dass sie buchstabiert werden! msfilter.pl beseitigt diesen Missstand, aber wenn man ihn nicht benutzt, muss man solche Wörter in Normalschreibung umwandeln.

Aufteilen des Textes in Kapitel

Wo wir den Text schon im Editor haben, speichern wir jedes Kapitel in eine eigene Datei ab. Da für jede Textdatei eine eigene MP3-Datei erzeugt wird, fördert das die Übersicht (so bekommt etwa jedes Kapitel einen eigenen ID3-Tag mit Titel) und die MP3-Dateien werden auch nicht zu riesig.

Anpassen von msfilter.ini

Der Filter msfilter.pl nimmt elegant ein paar Veränderungen vor. Dabei bezieht er seine Weisheit zum einen aus ein paar Regeln, die ich direkt im Script hinterlegt habe (wer eines dieser Features nicht haben will, kann die entsprechende Anweisung einfach aus dem Script streichen):

• Der Text wird komplett in Kleinbuchstaben gewandelt; das beseitigt das genannte Problem mit den GROSSBUCHSTABEN
• Vierstellige Zahlen der Form "19xx" sind höchstwahrscheinlich Jahreszahlen. Daraus wird "neunzehnhundert xx"
• Strings der Form "xx,xx" (Zahl, Komma, Zahl) sind in der Literatur, die mich am meisten interessiert, höchstwahrscheinlich Kapitel und Vers einer Bibelstelle. Das wird zu "xx xx" (das Komma wird gestrichen), damit der Synthesizer nicht "xx Komma xx" daraus macht
• Genauso wahrscheinlich sind Strings der Form "xx-xx" (Zahl, Strich, Zahl) eine Vers- oder Kapitelspanne. Das wird zu "xx bis xx", sonst macht der Synthesizer "xx Strich xx" daraus

Zum anderen, und deshalb erwähne ich das hier, liest er aber auch eine Tabelle mit Ersetzungsregeln: die Datei msfilter.ini. Man sollte an dieser Stelle prüfen, ob die Regeln in dieser Datei zum Text passen. Die Datei enthält folgendes:

• Abkürzungen für die biblischen Bücher Da verschiedene Autoren möglicherweise verschiedene Abkürzungen benutzen, sind hier vielleicht Anpassungen nötig
• Zeichen Hier können Zeichen wie "©" definiert werden
• Abkürzungen Hier wird festgelegt, wie welche Abkürzung ausgesprochen wird - damit z.B. aus "z.B." nicht "z Punkt B Punkt"  wird!

Beachte: die Datei enthält keine gewöhnlichen Strings, sondern reguläre Ausdrücke, die Perl versteht. Auch wer die Syntax nicht kennt, bekommt aus den vorhandenen Beispielen wahrscheinlich eine Idee, wie das mit den regulären Ausdrücken funktioniert.

Erzeugen einer INI-Datei

Ich habe Komfort versprochen - hier ist er:

Wir erzeugen jetzt eine INI-Datei, die die Texte, die wir konvertieren, beschreibt. Diese Beschreibung beeinflusst den Konvertierungsprozess - wir können damit z.B. Tonhöhe und Sprechgeschwindigkeit fest legen. Dann werden aus dieser Beschreibung auch ID3-Tags erzeugt, so dass sich das Endergebnis auch in einem MP3-Player sehen lassen kann.

Sagen wir, wir hätten die Dateien test_01.txt, test_02.txt, test_03.txt, test_04.txt und test_05.txt vorliegen. Für diese Dateien erzeugen wir eine INI-Datei des Namens test.ini. Das ist wichtig: Die INI-Datei muss so heissen wie die Textdateien ohne den Unterstrich und die Nummerierung. Oder anders herum: Die Namen der Textdateien müssen alle enden auf einen Unterstrich und eine Nummerierung (ein- oder zweistellig ist egal).

Die exemplarische INI-Datei, wenn wir z.B. diese Webseite vertonen wollten, wird zunächst folgendes enthalten:

Artist=Martin Schweikert
Album=Sprachsynthese
Year=2004

Title01=Die Idee
Title02=Was braucht man dafür?
Title03=So hört es sich an
Title04=Installation der benötigten Software
Title05=Die Konvertierung an einem Beispiel erklärt

Das sind Angaben, die in die ID3-Tags fliessen. Der Profi wird vermuten, dass hier ID3-Tags der Version 2 erzeugt werden, denn einige Titel sind länger als 30 Zeichen. Will man das nicht, dann schreibt  man in eine beliebige Zeile die Angabe

ID3=1

In diesem Fall findet später eine Prüfung statt, ob auch alle Angaben kurz genug sind.

Drei Angaben werden automatisch hinzu gefügt:

• die Track-Nummer; sie entspricht der Nummerierung des Titels
• das Genre "Speech"
• der Kommentar "Synthese: txt2pho/mbrola"

So viel zur Kosmetik der ID3-Tags.

Eine wichtige Angabe muss wahrscheinlich noch sein: die zu verwendende Stimme. Ist das nicht /opt/txt2pho/data/de6 (so der Default in txt2mp3.sh), muss Ort und Name der Stimmen-Datenbank angegeben werden. Das Beispiel für eine weibliche Stimme, wenn die Installation streng nach "Lesestunde" vorgenommen wurde, wäre:

Stimme=/usr/local/mbrola/txt2pho/data/de6

Will man die Tonhöhe oder die Sprechgeschwindigkeit beeinflussen, kann man das mit den Parametern Frequenz bzw. Tempo tun. Um die Defaults von mbrola zu benutzen, würde man schreiben:

Frequenz=1.0
Tempo=1.0

Für meinen Geschmack wäre das zu hoch und zu schnell, aber das kann ja jeder einstellen, wie er will.

Zu guter Letzt: wo wir uns doch so viel Mühe mit dem Filter gemacht haben, legen wir noch fest, dass er auch benutzt wird. Den vollen Nutzen haben wir von

Filter=/opt/txt2mp3/msfilter.pl /opt/txt2mp3/msfilter.ini

Das bedeutet: benutze den Filter /opt/txt2mp3/msfilter.pl samt den Regeln in /opt/txt2mp3/msfilter.ini. Wollten wir die Regeln nicht benutzen, genügte

Filter=/opt/txt2mp3/msfilter.pl

Hier kann man aber aus dem Vollen schöpfen: Wenn man alles ausnutzen möchte, was die Filter hergeben, kann man auch eintragen (aber unbedingt an die eigenen Gegebenheiten anpassen!)

Filter=/opt/txt2mp3/msfilter.pl /opt/txt2mp3/msfilter.ini | pipefilt | numfilt | preproc /usr/local/Sprachsynthese/txt2pho/preproc/Rules.lst /usr/local/Sprachsynthese/txt2pho/preproc/Hadifix.abk

Eine sinnvolle INI-Datei wäre test.ini

Ausführen von txt2mp3.sh

Wenn alles korrekt installiert und konfiguriert ist, kommt jetzt der Moment, wo wir

$ txt2mp3.sh test.ini