Statistische Methoden der Informationsverarbeitung

In vielen Anwendungen sind tiefergehende Kenntnisse aus dem Bereich der statis-tischen Informationsverarbeitung von großer Bedeutung. Genannt seien an dieser Stelle der Entwurf und die Analyse von Filtern mit bestimmten Charakteristika wie das Matched-Filter oder Hypothesentests zur Bewertung der Güte von Bauteilen. Im Themengebiet der statistischen Informationsverarbeitung sind sowohl Kenntnisse aus dem Bereich der digitalen Signalverarbeitung wie auch aus dem Bereich der Beschreibung stochastischer Prozesse wichtig.

Hierzu werden zuerst Grundlagen der Signalverarbeitung wiederholt, insbesondere werden die Fouriertransformation und das Abtasttheorem diskutiert. Anschließend behandelt die Vorlesung Grundlagen und weiterführende Aspekte der digitalen Signalverarbeitung, beispielsweise der DFT und der z-Transformation, und greift Eigenschaften auf, die bei Anwendung in der Informations- und Nachrichtenverar-beitung eine wichtige Rolle spielen.

Das nächste Kapitel bietet eine Einführung in die Grundzüge der Statistik, in wel-cher basierend auf einer endlichen Stichprobe Rückschlüsse auf die zugrundlie-gende Verteilung gezogen werden. Hierzu werden Punktschätzer diskutiert und deren Gütekriterien erarbeitet sowie der ML-Ansatz bzw. der MMSE-Ansatz zur Her-leitung von Punktschätzern verwendet. Anschließend erfolgt eine kurze Einführung in das Themengebiet der Bereichsschätzer (Konfidenzintervalle) und der Hypothe-sentests.

Das nächste Kapitel bietet eine Einführung in die Grundzüge der Statistik, in welcher basierend auf einer endlichen Stichprobe Rückschlüsse auf die zugrundliegende Verteilung gezogen werden. Hierzu werden Punktschätzer diskutiert und deren Gütekriterien erarbeitet sowie der ML-Ansatz bzw. der MMSE-Ansatz zur Herleitung von Punktschätzern verwendet. Anschließend erfolgt eine kurze Einführung in das Themengebiet der Bereichsschätzer (Konfidenzintervalle) und der Hypothesentests.Beachte: Dieses Kapitel wird im WS 2023/24 letztmalig in dieser Vorlesung behandelt, da die Inhalte in die Grundlagenvorlesung „Wahrscheinlichkeitstheorie“ aufgenommen wurden. Ab WS 2024/25 wird anstelle der Grundzüge der Statistik ein Kapitel zu stochastischen Prozessen behandelt werden, die in der Vorlesung „Wahrscheinlichkeitstheorie“ gestrichen werden mussten, für die statistische Informations- und Signalverarbeitung sowie für die Nachrichtentechnik aber zentral sind.

Nach Erarbeitung der Grundlagen werden im darauffolgenden Kapitel verschiedene Filter hergeleitet. Das Prädiktionsfilter hat zum Ziel, den nächsten Wert einer Zeitreihe bzw. eines Prozesses bzgl. eines quadratischen Gütekriteriums optimal vorherzusagen, und kann für die Kompression von Signalen wie beispielsweise Sprach-, Audio und Videosignalen verwendet werden. Anschließend werden Aussagen zum Matched-Filter erarbeitet, die in der Vorlesung „Nachrichtentechnik I“ hergeleitete Eigenschaften erneut nachgerechnet und vertieft. Am Ende des Kapitels wird das Wiener-Filter diskutiert, das breite Anwendung in der Signalverarbeitung zur Glättung und Prädiktion findet.

Bei der Übertragung von Nachrichten kommt der Modellierung und der Schätzung der entsprechenden Kanäle eine zentrale Rolle zu. Nach Einführung des Tapped-Delay-Line-Modells werden Aspekte der Kanalmodellierung diskutiert, bevor die Kanalschätzung mittels geeigneter Eingangssignale anhand verschiedener Gütekriterien besprochen wird.

Den Abschluss der Vorlesung bilden Kommentare zur Simulation von Systemen der Informationsverarbeitung und Nachrichtenübertragung. Ausgehend von der Simulation von Symbolfehlerraten und deren Konfidenzintervalle werden weitere Anwendungen von Monte-Carlo-Simulation gezeigt. Schließlich werden Aspekte der Erzeugung gesuchter Wahrscheinlichkeiten besprochen, z.B. Markov-Chain-Monte-Carlo-Methoden.