Strassen-Algorithmus

Der Strassen-Algorithmus (erfunden vom deutschen Mathematiker Volker Strassen) ist ein Algorithmus aus der Linearen Algebra und wird zur Matrizenmultiplikation verwendet. Der Strassen-Algorithmus realisiert die Matrizenmultiplikation asymptotisch effizienter als das Standardverfahren und ist in der Praxis schneller für große Matrizen (solche mit einem Rang größer als 1000).

Vereinfachend wird der Spezialfall quadratischer Matrizen mit ${\displaystyle 2^{k}}$ Zeilen bzw. Spalten betrachtet.

Seien also ${\displaystyle A,B\in R^{2^{k}\times 2^{k}}}$ Matrizen über einem Ring ${\displaystyle R}$ und ferner ihr Produkt ${\displaystyle C=A\cdot B\in R^{2^{k}\times 2^{k}}}$. Diese lassen sich auch als Blockmatrizen

${\displaystyle A={\begin{pmatrix}A_{1,1}&A_{1,2}\\A_{2,1}&A_{2,2}\end{pmatrix}},\qquad B={\begin{pmatrix}B_{1,1}&B_{1,2}\\B_{2,1}&B_{2,2}\end{pmatrix}},\qquad C={\begin{pmatrix}C_{1,1}&C_{1,2}\\C_{2,1}&C_{2,2}\end{pmatrix}}}$

betrachten, wobei ${\displaystyle A_{i,j},B_{i,j},C_{i,j}\in R^{2^{k-1}\times 2^{k-1}}}$ sind.

Für die Multiplikation von Blockmatrizen gilt:

${\displaystyle C_{1,1}=A_{1,1}\cdot B_{1,1}+A_{1,2}\cdot B_{2,1}}$

${\displaystyle C_{1,2}=A_{1,1}\cdot B_{1,2}+A_{1,2}\cdot B_{2,2}}$

${\displaystyle C_{2,1}=A_{2,1}\cdot B_{1,1}+A_{2,2}\cdot B_{2,1}}$

${\displaystyle C_{2,2}=A_{2,1}\cdot B_{1,2}+A_{2,2}\cdot B_{2,2}}$

Die direkte Berechnung der ${\displaystyle C_{i,j}}$ benötigt also ${\displaystyle 8}$ (aufwändige) Matrizenmultiplikationen. Um diese Anzahl zu reduzieren, berechnet der Algorithmus von Strassen folgende Hilfsmatrizen:

${\displaystyle M_{1}:=(A_{1,1}+A_{2,2})\cdot (B_{1,1}+B_{2,2})}$

${\displaystyle M_{2}:=(A_{2,1}+A_{2,2})\cdot B_{1,1}}$

${\displaystyle M_{3}:=A_{1,1}\cdot (B_{1,2}-B_{2,2})}$

${\displaystyle M_{4}:=A_{2,2}\cdot (B_{2,1}-B_{1,1})}$

${\displaystyle M_{5}:=(A_{1,1}+A_{1,2})\cdot B_{2,2}}$

${\displaystyle M_{6}:=(A_{2,1}-A_{1,1})\cdot (B_{1,1}+B_{1,2})}$

${\displaystyle M_{7}:=(A_{1,2}-A_{2,2})\cdot (B_{2,1}+B_{2,2})}$

Zur Berechnung der ${\displaystyle M_{i}}$ sind lediglich ${\displaystyle 7}$ Multiplikationen nötig, die ${\displaystyle C_{ij}}$ lassen sich nun durch Additionen (und Subtraktionen) ermitteln:

${\displaystyle C_{1,1}=M_{1}+M_{4}-M_{5}+M_{7}}$

${\displaystyle C_{1,2}=M_{3}+M_{5}}$

${\displaystyle C_{2,1}=M_{2}+M_{4}}$

${\displaystyle C_{2,2}=M_{1}-M_{2}+M_{3}+M_{6}}$

Für die Multiplikationen in der Berechnung der ${\displaystyle M_{i}}$ wird obiges Verfahren rekursiv ausgeführt, bis das Problem auf die Multiplikation von Skalaren reduziert ist.

In der Praxis kann die gewöhnliche Multiplikation für kleine Matrizen durchaus schneller sein. Daher bietet sich ein Wechsel zur gewöhnlichen Multiplikation anstelle eines rekursiven Aufrufs an, sobald die Matrizendimensionen klein genug sind (Cut-Off).

Der Standardalgorithmus zur Matrizenmultiplikation benötigt

${\displaystyle n^{\log _{2}8}=n^{3}}$

Multiplikationen der Elemente des Ringes ${\displaystyle R}$. Die benötigten Additionen sind hierbei nicht in die Komplexitätsberechnung eingeflossen, Sie können, abhängig von ${\displaystyle R}$, in Computerimplementationen viel schneller sein als die Multiplikationen. (Insbesondere bei gewöhnlichen ganzen oder Fließkommazahlen ist das oft der Fall.) Mit dem Strassen-Algorithmus wird die Anzahl der Multiplikationen auf

${\displaystyle n^{\log _{2}7}\approx n^{2,807}}$

reduziert. Die Reduktion der Anzahl der Multiplikationen führt allerdings zu einer Verringerung der numerischen Stabilität.^[1]

Eine saubere Analyse einschließlich der Additionen ist mit dem Master-Theorem möglich: Die gewöhnliche Matrizenmultiplikation benötigt ${\displaystyle 2n^{3}-n^{2}\in {\mathcal {O}}(n^{3})}$ Schritte (Multiplikationen und Additionen gleich gewichtet und zusammenaddiert). Dies gilt auch für den ganz oben erklärten naiven rekursiven Algorithmus, denn er erzeugt 8 Teilprobleme der Größe ${\displaystyle {\frac {n}{2}}}$und zudem sind 4 quadratische Matrizen der Seitenlänge ${\displaystyle {\frac {n}{2}}}$ zu addieren, was einen zusätzlichen Aufwand von ${\displaystyle 4\cdot \left({\frac {n}{2}}\right)^{2}=n^{2}}$ nach sich zieht, also gilt für seine Laufzeit die Rekursion

${\displaystyle T(n)=8\cdot T\left({\frac {n}{2}}\right)+n^{2}}$

was nach dem Master-Theorem ${\displaystyle T(n)\in \Theta (n^{\log _{2}8})=\Theta (n^{3})}$ nach sich zieht.

Der Strassen-Algorithmus erzeugt hingegen jeweils nur sieben solche Teilprobleme, auch wenn dafür nun 18 Additionen oder Subtraktionen von Matrizen mit halber Seitenlänge, also ${\displaystyle 18\cdot \left({\frac {n}{2}}\right)^{2}={\frac {9}{2}}\cdot n^{2}}$ Additionen/Subtraktionen einzelner Matrixeinträge in ${\displaystyle R}$, erforderlich sind:

${\displaystyle T(n)=7\cdot T\left({\frac {n}{2}}\right)+{\frac {9}{2}}\cdot n^{2}}$

Mit dem Master-Theorem folgt ${\displaystyle T(n)\in \Theta \left(n^{\log _{2}7}\right)}$ (mit ${\displaystyle \log _{2}7\approx 2{,}807}$).

• Volker Strassen: Gaussian Elimination is not Optimal. In: Numerische Mathematik, Band 13, 1969, S. 354–356, ISSN 0029-599X, doi:10.1007/BF02165411.

• Eric W. Weisstein: Strassen Formulas. In: MathWorld (englisch).

1. ↑ Webb Miller: Computational complexity and numerical stability. In: SIAM News. 4. Jahrgang, 1975, S. 97–107 (englisch, psu.edu [PDF]).