Ich mag Bilder, die veranschaulichen, wie unterschiedliche Muster eine ähnliche Korrelation aufweisen können.Die folgenden stammen aus Wikipedia-Artikeln zu Korrelation und Abhängigkeit

und Anscombes Quartett mit Korrelationen von ungefähr $ 0.816 $ span>

Simpsons Paradoxon

Ein Phänomen, das auftritt, wenn eine Schlüsselvariable in der Analyse einer Beziehung zwischen einer oder mehreren unabhängigen Variablen und einer abhängigen Variablen nicht berücksichtigt wird.Dies zeigt zum Beispiel, dass je mehr Schlafzimmer Häuser haben, desto niedriger der Eigenheimpreis :

Dies scheint nicht intuitiv zu sein und lässt sich leicht lösen, indem alle Datenpunkte, aus denen der Durchschnitt für jeden Bereich besteht, in demselben Diagramm dargestellt werden.Hier zeigt die größere Anzahl von Schlafzimmern korrekt teurere Häuser an, wenn auch die Nachbarschaftsvariable beachtet wird:

Wenn Sie mehr über das obige Beispiel lesen und eine weitaus bessere Erklärung erhalten möchten, als ich liefern konnte, klicken Sie hier auf .

Eines der interessantesten Konzepte, die heute sehr wichtig und sehr einfach zu visualisieren sind, ist "overfitting".Der folgende grüne Klassifikator zeigt ein klares Beispiel für eine Überanpassung [Bearbeiten: "Der grüne Klassifikator wird durch die sehr wackelige Linie zwischen roten und blauen Datenpunkten angegeben" - Nick Cox].

Aus Wikipedia:

Wie funktioniert ein 2D-Datensatz, bei dem der Mittelwert von X 54 mit einer SD 17 und für Y 48 bzw. 27 beträgt und die Korrelation zwischen beiden -0,06 beträgt?

Einführung in den Anscombosaurus:

Und sein Begleiter, das Datasaurus Dutzend:

Ich denke, falsche Korrelationen verdienen auch ihren eigenen Beitrag.Das heißt,Korrelation ist nicht gleich Kausalität.Vielleicht eines der Dinge, die am häufigsten verwendet werden, wenn versucht wird, die Wahrheit mithilfe von Statistiken zu verbiegen.Tyler Vigen hat eine berühmte Website mit vielen Beispielen.Zur Veranschaulichung - siehe die folgende Darstellung, in der die Anzahl der Polio-Fälle und die Eisverkäufe eindeutig miteinander korrelieren.Aber anzunehmen, dass Polio Eisverkäufe verursacht oder umgekehrt, ist eindeutig unsinnig.

P.S: Relevantes xkcd 1 und relevantes xkcd 2

Vorspannung kann gut sein

Ein $ \ color {orangered} {\ text {unverzerrter Schätzer}} $ span> ist im Durchschnitt korrekt. Ein $ \ color {Steelblue} {\ text {voreingenommener Schätzer}} $ span> ist im Durchschnitt nicht korrekt.

Warum sollten Sie dann jemals einen voreingenommenen Schätzer verwenden (z. B. Gratregression)?

Die Antwort lautet, dass introducing Bias die Varianz reduzieren kann.

In der Abbildung hat für eine bestimmte Stichprobe der $ \ color {orangered} {\ text {unverzerrter Schätzer}} $ span> eine $ 68 \% $ span> Chance, innerhalb der $ 1 $ span> willkürlichen Einheit des wahren Parameters zu sein, während der $ \ color {Steelblue} {\ text {voreingenommener Schätzer}} $ span> hat eine viel größere $ 84 \% $ span> Chance.

Wenn die von Ihnen eingeführte Verzerrung die Varianz des Schätzers ausreichend verringert, hat Ihre eine Stichprobe eine bessere Chance, eine Schätzung in der Nähe des Populationsparameters zu erhalten.

"Im Durchschnitt korrekt" klingt großartig, gibt jedoch keine Garantie dafür, inwieweit einzelne Schätzungen vom Populationsparameter abweichen können. Wenn Sie viele Stichproben zeichnen würden, wäre der $ \ color {stahlblau} {\ text {voreingenommener Schätzer}} $ span> im Durchschnitt um $ 0.5 $ span> beliebige Einheiten. Wir haben jedoch selten viele Stichproben aus derselben Population, um diese „durchschnittliche Schätzung“ zu beobachten. Daher hätten wir lieber eine gute Chance, nahe am wahren Parameter zu sein.

Wenn Sie Schätzer und ihren Fehler zum ersten Mal verstehen, ist es hilfreich, zwei Fehlerquellen zu verstehen: Verzerrung und Varianz.Das folgende Bild veranschaulicht dies hervorragend und hebt die Kompromisse zwischen diesen beiden Fehlerquellen hervor.

Das Bullauge ist der wahre Wert, den der Schätzer zu schätzen versucht, und jeder Punkt repräsentiert und schätzt diesen Wert.Idealerweise haben Sie eine geringe Vorspannung und eine geringe Varianz, aber die anderen Dartscheiben stellen weniger als ideale Schätzer dar.

Principal component Analysis (PCA) PCA ist eine Methode zur Dimensionsreduzierung.Es projiziert die ursprünglichen Variablen in die Richtung, die die Varianz maximiert.

In unserer Abbildung stammen die roten Punkte aus einer bivariaten Normalverteilung.Die Vektoren sind die Eigenvektoren und die Größe dieser Vektoren ist proportional zu den Werten der jeweiligen Eigenwerte.Die Hauptkomponentenanalyse liefert neue Richtungen, die orthogonal sind und auf Richtungen mit hoher Varianz zeigen.

Eigenvektoren & Eigenwerte

Das Konzept der Eigenvektoren und Eigenwerte, die die Grundlage für die Hauptkomponentenanalyse (PCA) bilden, wie auf Wikipedia erläutert:

Im Wesentlichen ist ein Eigenvektor $ v $ span> einer linearen Transformation $ T $ span> ein Vektor ungleich Null Wenn $ T $ span> darauf angewendet wird, ändert sich die Richtung nicht. Durch Anwenden von $ T $ span> auf den Eigenvektor wird der Eigenvektor nur um den Skalarwert $ \ lambda $ span> skaliert, der als bezeichnet wird Eigenwert. Diese Bedingung kann wie folgt geschrieben werden: $ T (v) = \ lambda v $ span>.

Die obige Aussage wird mit diesem GIF sehr elegant erklärt:

Vektoren mit blauen $ \ begin {bmatrix} 1 \\ 1 \\ \ end {bmatrix} $ span> und Magenta $ \ begin {bmatrix} 1 \\ - 1 \\ \ end {bmatrix} $ span> sind Eigenvektoren für die lineare Transformation, $ T = \ begin {bmatrix} 2 & 1 \\ 1 & 2 \\ \ end {bmatrix} $ span>. Die Punkte, die parallel zu den Eigenvektoren auf der Linie durch den Ursprung liegen, bleiben nach der Transformation auf der Linie. Die Vektoren in Rot sind keine Eigenvektoren, daher wird ihre Richtung durch die Transformation geändert. Blaue Vektoren werden mit einem Faktor von 3 skaliert - dies ist der Eigenwert für den blauen Eigenvektor, während die Magenta-Vektoren nicht skaliert werden, da ihr Eigenwert 1 ist

Link zum Wikipedia-Artikel.

Trade-off Bias Varianz ist ein weiteres sehr wichtiges Konzept in Statistik / Maschinelles Lernen.

Die Datenpunkte in Blau stammen aus $ y (x) = \ sin (x) + \ epsilon $ span>, wobei $ \ epsilon $ span> hat eine Normalverteilung. Die roten Kurven werden anhand verschiedener Stichproben geschätzt. Die Abbildung "Große Varianz und kleine Vorspannung" zeigt das ursprüngliche Modell, das ein radiales Basisfunktionsnetzwerk mit 24 Gaußschen Basen ist.

Die Abbildung "Kleine Varianz und große Vorspannung" zeigt dasselbe regulierte Modell.

Beachten Sie, dass in der Abbildung "Kleine Varianz und große Vorspannung" die roten Kurven sehr nahe beieinander liegen (kleine Varianz). Dasselbe passiert in der Abbildung "Große Varianz und kleine Vorspannung" (große Varianz) nicht.

Small Varianz und Large Bias

Large Varianz und Small Bias

Aus meinem Computermethoden- und maschinellen Lernkurs.

Hier ist eine sehr grundlegende, aber meiner Meinung nach sehr mächtige, weil sie nicht nur eine visuelle Erklärung eines Konzepts darstellt, sondern auch die Visualisierung oder Vorstellung eines realen Objekts erfordert, das das Konzept darstellt:

Neophyten haben manchmal Schwierigkeiten, sehr grundlegende Konzepte wie Mittelwert, Median und Modus zu verstehen.

Um ihnen zu helfen, die Idee des Mittelwerts besser zu verstehen:

Nehmen Sie diese verzerrte Verteilung und machen Sie einen 3D-Druck davon in Plastik oder schnitzen Sie sie in Holz, sodass Sie jetzt ein echtes Objekt in Ihren Händen haben.Versuchen Sie es mit nur einem Finger auszugleichen ... der Mittelwert ist der only point, wo Sie das tun können.

Die folgende Abbildung zeigt, wie wichtig es ist, die Ziele und Annahmen eines Clustering-Problems (und eines allgemeinen statistischen Problems) genau zu definieren.Unterschiedliche Modelle können sehr unterschiedliche Ergebnisse liefern:

Quellen: ScikitLearn

Okay, in diesem Fall geht es weniger darum, ein Grundkonzept zu veranschaulichen, aber es ist sowohl visuell als auch in Bezug auf Anwendungen sehr interessant. Ich denke, den Menschen zu zeigen, was sie letztendlich mit dem, was sie lernen, erreichen können, ist eine großartige Form der Motivation. Sie können es als Beispiel für die Entwicklung und Anwendung statistischer Modelle anführen, die von all den grundlegenderen statistischen Konzepten abhängen, die sie lernen. Damit präsentiere ich Ihnen ...

Modellierung der Species-Verteilung

Es ist eigentlich ein sehr breites Thema mit vielen Nuancen in Bezug auf Datentypen, Datenerfassung, Modellaufbau, Annahmen, Anwendungen, Interpretationen usw. Aber ganz einfach ausgedrückt, Sie nehmen Beispielinformationen darüber, wo eine Art vorkommt. Verwenden Sie diese Standorte dann, um potenziell relevante Umgebungsvariablen (z. B. Klimadaten, Bodendaten, Lebensraumdaten, Höhe, Lichtverschmutzung, Lärmbelastung usw.) abzutasten und anhand der Daten ein Modell zu entwickeln (z. B. GLM, Punktprozessmodell usw.). Verwenden Sie dann dieses Modell, um mithilfe Ihrer Umgebungsvariablen eine Landschaft vorherzusagen. Abhängig davon, wie das Modell eingerichtet wurde, können potenzielle geeignete Lebensräume, wahrscheinliche Vorkommensgebiete, Artenverteilung usw. vorhergesagt werden. Sie können auch die Umgebungsvariablen ändern, um zu sehen, wie sie sich auf diese Ergebnisse auswirken. Menschen haben SDMs verwendet, um bisher unbekannte Populationen einer Art zu finden. Sie haben sie verwendet, um neue Arten zu entdecken. Mit historischen Klimadaten haben sie sie verwendet, um in der Zeit, in der eine Art früher vorkam und wie sie dort ankam, rückwärts vorherzusagen ist heute (sogar bis in die Eiszeit), und mit Dingen wie zukünftigen Klimavorhersagen und dem Verlust von Lebensräumen werden sie verwendet, um vorherzusagen, wie sich menschliche Aktivitäten in Zukunft auf die Arten auswirken werden. Dies sind nur einige Beispiele, und wenn ich später Zeit habe, werde ich interessante Artikel finden und verknüpfen. In der Zwischenzeit habe ich hier ein kurzes Bild gefunden, das die Grundlagen veranschaulicht: