1. Spezifikation der funktionellen Anforderungen

1.1. Aufgabenstellung

1.2. Modelle funktioneller Anforderungen

1.2.1. Kontextdiagramm

1.2.2. Primäres Verhaltensmodell

2. Modul „Neuronales Netz" (Falk Seifert)

2.1. Schnittstelle des Moduls „Neuronales Netz" (snnsapp.h)

2.2. Nutzung des Moduls „Neuronales Netz" im Normalbetrieb

2.2.1. Netz aufbauen: int NNCreate (char* name)

2.2.2. Netz trainieren: int NNTrain (char* name, int override)

2.2.3. Worterkennung mit dem trainierten Netz: int NNPropagate (char* name, char* word, float* activation)

2.3. Nutzung des Moduls „Neuronales Netz" im „Online"-Betrieb

2.4. Die C-Schnittstelle des SNNS-Kernels

2.5. Erläuterungen zum Fehlergenerator (psdoerr.c)

2.5.1. Die Arbeitsweise des Pseudo-Fehlergenerators (PseudoError())

2.5.2. Die Kodierung der Buchstaben (Tobias Neubert)

2.6. Verbesserungsmöglichkeiten

4. Datenbankanbindung (Tobias Neubert)

4.1. Statische Datenbankanfrage

4.2. Dynamische Datenbankanfrage

SQL-Anfragen an eine Datenbank unterliegen einer exakten Syntax. Diese Tatsache erfordert vom Anwender die genaue Kenntnis der Schreibweise von datenbankspezifischen Namen, die Relationen und Attribute bezeichnen. Weitere Voraussetzung ist das Beherrschen von SQL. Das Ziel ist es, den Anwender beim Finden korrekter Namen zu unterstützen.

Beispiel: Die Datenbank enthält die Relation „Personal". Der Anwender stellt eine Anfrage, die statt des Relationennamens „Personal" nun „Personen" enthält. Gibt es keine Relation mit dem Namen „Personen", so soll das zu entwerfende System in der Lage sein, einen entsprechend ähnlich geschriebenen Relationennamen vorzuschlagen. In diesem Falle wäre das „Personal".

Der zweite Aufgabenbereich des Systems liegt in der Korrektur von Schreibfehlern. Das betrifft Schlüsselwörter sowie datenbankspezifische Namen. Jedoch sollte die Struktur der SQL-Anfrage, wie z.B. Klammerung und Anordnung der Schlüsselwörter, syntaktisch korrekt sein. Eine weitere Forderung ist die korrekte Schreibweise des Schlüsselwortes „from".

Eine vom Nutzer entworfene SQL-Anfrage kann, bevor diese an die Datenbank gestellt wird, zur Untersuchung bzw. Korrektur an das zu entwerfende System gegeben werden.

Im Rahmen dieses Praktikums ist ein System zu realisieren, das mit einer Testdatenbank auf einem an der TU verfügbaren DBMS arbeitet. Die Erkennung und Korrektur von Schreibfehlern und ähnlichen Namen ist mit Hilfe eines neuronalen Netzes zu realisieren.

/* Fehlercodes des Moduls */
#define ERROR_PSEUDOERROR -1
#define ERROR_NET_EXISTS -2
#define ERROR_PATTERN_EXISTS -3
#define ERROR_NO_WORDS -4
#define ERROR_NO_NET -5
#define ERROR_NO_PATTERNS -6
#define ERROR_TOO_FEW_WORDS -7
#define ERROR_NO_VALIDSET -8

/* Parameter für die Generierung der Lern- und Testmuster */
#define NN_NOISE 8
#define NN_PATTERN_CYCLES 10

/* Parameter für das Lernen und Testen */
#define NN_LEARN_CYCLES 0
#define NN_LEARN_RATE 0.2
#define NN_DELTA_MAX 0.1
#define NN_LEARN_ABORT 0.01
#define VALIDATION_DISTANCE 10
#define PROPAGATE_WEIGHTED_CHARS

/* Funktionen zum Normal-Betrieb: */
int NNCreate (char* name);
int NNTrain (char* name, int override);
int NNPropagate (char* name, char* word, float* activation);

/* Funktion zum Online-Betrieb: Erzeugen von Netz und Pattern, trainiern, propagieren und löschen nacheinander */
int GetBestMatchOnline (char* name, char* word, float *activation);

/* Ausgabe eines Fehlertextes entsprechend des Fehlercodes "error_code", siehe ERROR_* - Konstanten */
void OnSNNSAppError (int error_code);

Anschließend wird geprüft, ob schon ein neuronales Netz unter dem Name „name.net" generiert wurde. Ist das der Fall, kehrt die Funktion mit Fehlercode zurück. Andernfalls wird

1. die Größe des Backpropagation-Netzes berechnet (Anzahl der Neuronen in den 3 Schichten),
2. das Netzwerk im SNNS-Kernel aufgebaut,
3. das Netzwerk im SNNS-Format unter „name.net" gespeichert,
4. das Netzwerk aus dem SNNS-Kernel entfernt.

zu 1.: Die Größe des Netzes umfaßt die Anzahl der Neuronen in den 3 Schichten des Netzwerkes:

Anzahl der Neuronen der Input-Schicht = Anzahl der Buchstaben des längsten Wortes in „name.wrd" * Breite der Kodierung eines Buchstabens (6 Bits)
Anzahl der Neuronen der Output-Schicht = Anzahl der Wörter (Zeilen) in „name.wrd"
Anzahl der Neuronen der Hidden-Schicht = Mittelwert aus Anzahlen in der Input- und Output-Schicht

SELECT
FROM
WHERE

Dann hat das Netzwerk folgende Dimensionen:

Anzahl der Neuronen der Input-Schicht : 6 Buchstaben * 6 Bit => 36 Neuronen
Anzahl der Neuronen der Output-Schicht : 3 Wörter => 3 Neuronen
Anzahl der Neuronen der Hidden-Schicht : (36+3)/2=19.5 => 19 Neuronen

Der Parameter „name" dient wiederum als Basisname. Voraussetzung für die korrekte Abarbeitung der Funktion ist das Vorhandensein der Datei mit den zu lernenden Wörtern „name.wrd" und das Vorhandensein der Datei, die die Beschreibung des zu trainierenden Netzes enthält „name.net" (vorher von NNCreate() erzeugt ).

Existiert bereits eine entsprechende, von NNTrain() erzeugte Lernmusterdatei „name.pat" kann durch den Parameter override > 0 das Überschreiben der alten Datei veranlaßt werden. Ist override gleich 0 (also False) und existiert „name.pat" wird diese Funktion abgebrochen und liefert einen entsprechenden Fehlercode.

Kann die Abarbeitung der Funktion fortgesetzt werden, dann wird unter Zuhilfenahme des Pseudo-Fehlergenerators (PseudoError() in Datei psdoerr.c) eine Datei „name.pat" mit Lernmustern im .pat-Format des SNNS generiert. Diese Datei enthält mehrfach die Wörter aus „name.wrd" in kodierter Form, welche zusätzlich noch zufällig mit Fehlern versehen wurden. Anhand der zufällig generierten Fehler soll das Netz für mehrere fehlerhafte Ausprägungen des originalen Wortes angelernt werden. Ähnlich wie die Lernmuster werden noch sogenannte Validation- bzw. Testmuster generiert und in „name.val" abgelegt. Diese Generation der Testmuster erfolgt genau wie die Generation der Lernmuster nur mit dem Unterschied, daß die Testmuster im ASCII-Format und nicht im .pat-Format gespeichert werden.

• NN_NOISE gibt an, wieviel Fehler in den Lern- und Testmustern zufällig generiert werden sollen. Z.B: wird mit einem Wert von 10 in Blöcken von jeweils 10 Buchstaben jeweils ein Fehler generiert. Die Alternative, für die einzelnen Buchstaben mit einer Wahrscheinlichkeit von 0.1 einen Fehler zu generieren, wurde verworfen. Die mit dieser Methode generierten Fehler waren nicht gleichmäßig genug verteilt.

• NN_PATTERN_CYCLES gibt an, wie oft die zu lernenden Wörter aus „name.wrd" in den Dateien der Lern- und Testmuster „name.pat" und „name.val" zu wiederholen bzw. variieren sind.

• NN_LEARN_CYCLES enthält die Anzahl der Lernzyklen, die beim Training des neuronalen Netzes durchzuführen sind. Bei Werten kleiner als 1 wird das Training erst abgebrochen, bis der Wert NN_LEARN_ABORT unterschritten wurde oder der Fehler für die Testmuster (wie oben beschrieben) steigt.

• NN_LEARN_RATE gibt die Lernrate an. Ein typischer Wert liegt bei 0.2.

• NN_DELTA_MAX ist ebenfalls ein Parameter für das Lernen. Typischer Wert 0.1

• VALIDATION_DISTANCE gibt an, aller wieviel Lernschritte ein Testzyklus durchzuführen ist. Nach einem Testzyklus kann geprüft werden, ob das Lernen aufgrund einer Verschlechterung bei der Erkennung von unbekannten Wörtern abgebrochen werden muß.

Die Anwendung des trainierten Netzes wird in dieser Funktion realisiert. der Parameter „name" ist hier wieder der Basisname für die Dateien „name.wrd", „name.net", „name.pat" und „name.val". Fehlen die Dateien „name.net" oder „name.pat" meldet sich der SNNS-Kernel mit einer Fehlermeldung und das Programm wird beendet. Das Vorhandensein dieser Dateien sollte also sichergestellt sein. Das neuronale Netz wird nun in den Simulator-Kernel geladen. Anschließend wird die Eingabedatei „name.wrd" analysiert. Dabei wird eine Tabelle aufgestellt, die die Vorkommen der einzelnen Buchstaben enthält.

Der Parameter „word" enthält das zu erkennende Wort. Dieses Wort wird nun in ein für das Netzwerk entsprechendes Format umgewandelt und an das Netzwerk angelegt.

SELECT
FROM
WHERE

Das Wort „word" soll in diesem Beispiel „WELECZ" sein. Die Buchstaben werden wie folgt gewichtet:

„W" mit 1, weil „W" in „name.wrd" genau einmal vorkommt.
„E" mit 1/4, weil „E" in „name.wrd" viermal vorkommt.
...
„Z" mit 0, weil „Z" nicht in „name.wrd" vorkommt.

Eine Gewichtung der Buchstaben kann vorteilhaft sein. Ein „W" ist beispielsweise ein sehr charakteristischer Buchstabe für das Wort „WHERE". Wird ein „W" angelegt, so sorgt die hohe Gewichtung von 1 dafür, daß diesem Buchstabe mehr Aufmerksamkeit geschenkt wird als z.B. dem „E". Nachteilig dagegen können sich Tippfehler auswirken, die genau solche hoch gewichtete Buchstaben enthalten.

Nachdem nun das angelegte, und evtl. gewichtete, Wort durch das Netzwerk propagiert wurde, wird das Outputneuron mit der größten Aktivation durch Vergleich ermittelt. Dieses Neuron ist das Gewinnerneuron und symbolisiert das zugeordnete Wort aus „name.wrd".

Das erste Outputneuron verkörpert das erste Wort aus „name.wrd", das zweite Outputneuron verkörpert das zweite Wort aus „name.wrd" usw.

Die Nummer der Zeile in „name.wrd", welche durch das Gewinnerneuron indiziert wird, ist der Rückgabewert dieser Funktion. Als weiterer Rückgabeparameter liefert „*activation" die Aktivation des Gewinnerneurons. Diese liegt zwischen 0 und 1.

Vor dem Ende der Funktion wird der Speicher des SNNS-Kernel wieder aufgeräumt.

Hier werden die Funktionen NNCreate(), NNTrain() und NNPropagate() in einer Funktion zusammengefaßt:

Der Fehlergenerator dient zum Generieren von Lern- und Testmustern für das neuronale Netzwerk. Dabei wird eine Eingabedatei zeilenweise eingelesen. Diese Zeilen werden vervielfacht, mit Fehlern behaftet und in eine Ausgabedatei geschrieben. Die Schnittstelle zum Fehlergenerator bildet folgende Funktion:

2.5.1 Die Arbeitsweise des Pseudo-Fehlergenerators (PseudoError())

Zunächst wird versucht, die beiden Dateien zu öffnen - „infile" zum Lesen und „outfile" zum Schreiben. Anschließend wird ein Fehlerschema generiert (GenerateErrorScheme()). Für dieses Fehlerschema wird. Speicher in der Größe von Länge der Datei „infile" * Anzahl der Zyklen bei der Fehlergenerierung reserviert. Initialisiert wird dieser Speicherbereich mit „T"'s (für TRUE). Anschließend wird in jedem Abschnitt, der „noise" Zeichen lang ist, zufällig ein Fehler generiert und mit „F" (für FALSE) gekennzeichnet. An diesen Stellen wird dann später das Lern- bzw. Testmuster zufällig verändert und somit werden Tippfehler simuliert. Abhängig davon, in welchem Format (ASCII oder SNNS-Pattern) die Ausgabedatei gespeichert werden soll, wird nun weiter verfahren.

2.5.2 Die Kodierung der Buchstaben (Tobias Neubert)

Damit ergeben sich folgende Codes (spezieller Code für Leertaste):

3 Interaktiver Editor (Tobias Neubert)

• Herstellen der Verbindung zur Datenbank (Funktion dbconnect()¹ ) bei Programmstart
• Aufruf der Funktionen CreateRelationFile()¹ und CreateColumnFiles()¹ zur Ermittlung der verfügbaren Tabellen- und Spaltennamen bei Programmstart.
• Interaktives Editieren einer Datenbankanfrage
• Aufruf des Parsers, der seinerseits bei Bedarf ein neuronales Netz aufruft, zur Überprüfung der Anfrage
• Senden der Anfrage an die Datenbank und Anzeige des Ergebnisses
• Umschalten zwischen den Fenstern:
  + Nutzeranfrage,
  + korrigierte Anfrage des Netzes
  + an DB gesendete Anfrage
  + Anfrageergebnis
• Speichern und Laden einer Anfrage oder eines Anfrageergebnisses in bzw. aus eine(r) Datei
• Schließen der Verbindung zur Datenbank (Funktion dbdisconnect()¹ ) bei Programmende

1 Die genannten Funktionen sind in dbconnect.sc.c implementiert und werden im Kapitel „Statische Datenbankanfrage" behandelt.

• Menüpunkt Query / Revise Query:

• Menü Window:

• Menü File

4 Datenbankanbindung (Tobias Neubert)

1.
select table_name
from iitables
where ((table_type like 'T') or (table_type like 'V')) and
((table_owner = 'ingres') or (table_owner = '$ingres'));

2.
select column_name
from iicolumns, iitables
where ((table_type like 'T') or (table_type like 'V')) and
((table_owner = 'ingres') or (table_owner = '$ingres')) and
(iitables.table_name=iicolumns.table_name) and
(iicolumns.table_name like :tab_name);