Assoziative Systeme als Datenspeicher
Text storage and associative memories
- Assoziativspeicher (AM) stellen eine besondere Form (künstlicher) Neuronaler Netze (KNN) mit einer Schicht dar. Sie eignen sich zur Anwendung bei Aufgaben wie Mustererkennung, -extraktion und -ergänzung, wobei Lernpaare von spärlich besetzten Binärvektoren, welche Ansammlungen von Merkmalen darstellen, verwendet werden. Die aus "Lernmatrizen" nach Steinbuch weiterentwickelten Matrizen haben nicht-lineares Verhalten ohne negative Gewichte, sind binär - und daher einfach zu konstruieren - und somit einfacher mit Texten (technisch: Zeichenfolgen) in Verbindung zu bringen. Während bekannt ist, dass die erreichbare Speichereffizienz als gut angesehen werden kann, ist dagegen die Wahrscheinlichkeit des korrekten Wiederfindens aller eingespeicherten Assoziationsmuster gering. Entsprechend wurde das Problem, beliebige Textdaten direkt in Assoziativspeichern aufzuheben, lange nicht angegangen. In der "Assoziativmaschine"[1] wurden bereits in Matrizen gespeicherte Programme, Zustandsvariablen und Weltwissen in einer Kombination solcher Speicher derart verschaltet, dass eine algorithmische Steuerung realisiert werden konnte. Eine besondere Rolle spielen hier "Sequenzen", welche als Folgen einen geordneten Zugriff auf Daten ermöglichen. Wir überprüfen jetzt unterschiedliche Ansätze und Aspekte dieser Aufgabe, Texte mit assoziativen Strukturen zu verarbeiten und zu speichern. Zur Durchführung und Veranschaulichung wurden spezielle Programme erstellt. Letztlich ergibt sich die Möglichkeit, grössere Mengen von Text vollständig assoziativ zu speichern und fehlerlos wieder auszulesen, was am Beispiel des gesamten Textes von Alice's Abenteuer Im Wunderland (160kB) demonstriert wird. Das dargestellte Verfahren funktioniert auch dann, wenn der Originaltext Wiederholungen enthält. Unter anderem lässt sich als einzige Version einer Zeichenfolge eine schnell durchsuchbare Kodierung aufbewahren. Schliesslich wird ein weiteres Verfahren gezeigt, welches lange Sequenzen in kleinen Matrizen nutzt. Hier können einfache Abfolgen in kompakter Weise abgelegt werden, zum Beispiel zur assoziativen Implementierung von Microcodeartigem Verhalten. Mögliche Anwendungen finden sich bei Betrieb und Steuerung der Assoziativmaschine. Weiterhin können Vorzüge dieser Technik - wie die Robustheit des Speichers - im Bereich der Langzeitdatenspeicherung/Archivierung genutzt werden. [1]beschrieben in [Dierks 05] aus unserer Arbeitsgruppe
- Associative Memories (AM) constitute a special form of Artificial Neural Networks (ANN) with only one layer of binary synapses. They perform well at tasks like pattern matching, extraction and completion when trained with pairs of sparsely coded binary vectors representing sets of properties. While the achievable memory efficiency considering some measure of information content has been shown to be high, the probability for correct retrieval of all memorized association pairs is quite low. For this reason it is not easy to use AM as memories for any given text or a list of instructions. Consequently AM were not used for direct storage of patterns when the original text has to be recalled, or adjoined AM are utilized - like in the 'Assoziativmaschine' - in conjunction with special key sequences, when program 'text' is to be stored. This thesis describes an alternative approach, where the intrinsic association sequence of some (program as well as normal) text is preprocessed in a reversible manner to avoid clashes for maximized memory usage. Targeted experiments were undertaken in varying several parameters until satisfactory results could be found. Resultingly large amounts of text can be stored associatively and retrieved without recall errors. As an illustration the whole textual content of Alice In Wonderland (160kB) and other texts were successfully stored. This even holds when the original text contains repetitive parts. An example of another method using long sequences in small memories is then shown, which allows storing simple sequences in a more compact way - i.e. to implement microcode-like behaviour in an associative manner. Specialized programs were developed to run and visualize those experiments. Possible applications can be found in operation of and controlling the Assoziativmaschine. Furthermore - because of the robustness of storage - the technique may prove beneficial in the field of archiving/digital preservation.
Author: | Fabian Rosenschein |
---|---|
URN: | https://nbn-resolving.org/urn:nbn:de:gbv:hil2-opus-2006 |
Advisor: | Hans-Joachim Bentz |
Document Type: | Doctoral Thesis |
Language: | German |
Date of Publication (online): | 2013/07/17 |
Year of first Publication: | 2012 |
Publishing Institution: | Stiftung Universität Hildesheim |
Granting Institution: | Universität Hildesheim, Fachbereich IV |
Date of final exam: | 2013/01/23 |
Release Date: | 2013/07/17 |
Tag: | Langzeitarchivierung; Textspeicherung associative memory; neural network |
GND Keyword: | Assoziation; Assoziativspeicher; Codierung; Neuronales Netz; Speicher <Informatik> |
Page Number: | 108 |
PPN: | Link zum Katalog |
Institutes: | Fachbereich IV / Mathematik und Angewandte Informatik |
DDC classes: | 000 Allgemeines, Informatik, Informationswissenschaft / 000 Allgemeines, Wissenschaft / 004 Informatik |
Licence (German): | ![]() |