NP-Vollständigkeit

From Alda

Jump to: navigation, search

Contents

Das Problem des Handlungsreisenden

(engl.: Traveling Salesman Problem; abgekürzt: TSP)
Wikipedia (de) (en)

Optimaler Reiseweg eines Handlungsreisenden(Quelle)
  • Eine der wohl bekanntesten Aufgabenstellungen im Bereich der Graphentheorie ist das Problem des Handlungsreisenden.
  • Hierbei soll ein Handlungsreisender nacheinander n Städte besuchen und am Ende wieder an seinem Ausgangspunkt ankommen. Dabei soll jede Stadt nur einmal besucht werden und der Weg mit den minimalen Kosten gewählt werden.
  • Alternativ kann auch ein Weg ermittelt werden, dessen Kosten unter einer vorgegebenen Schranke liegen.


gegeben: zusammenhängender, gewichteter Graph (oft vollständiger Graph)
gesucht: kürzester Weg, der alle Knoten genau einmal (falls ein solcher Pfad vorhanden) besucht (und zum Ausgangsknoten zurückkehrt)
auch genannt: kürzester Hamiltonkreis
- durch psychologische Experimente wurde herausgefunden, dass Menschen (in 2D) ungefähr proportionale Zeit zur Anzahl der Knoten brauchen, um einen guten Pfad zu finden, der typischerweise nur \lesssim 5% länger als der optimale Pfad ist
vorgegeben: Startknoten (kann willkürlich gewählt werden), vollständiger Graph
=> v-1 Möglichkeiten für den ersten Nachfolgerknoten => je v-2 Möglichkeiten für dessen Nachfolger...
also \frac{(v-1)!}{2} mögliche Wege in einem vollständigen Graphen


  • Ein naiver Ansatz zur Lösung des TSP Problems ist das erschöpfende Durchsuchen des Graphen, auch "brute force" Algorithmus ("mit roher Gewalt"), indem alle möglichen Rundreisen betrachtet werden und schließlich die mit den geringsten Kosten ausgewählt wird.
  • Dieses Verfahren versagt allerdings bei größeren Graphen, aufgrund der hohen Komplexität.

Approximationsalgorithmus

Für viele Probleme in der Praxis sind keine effizienten Algorithmen bekannt (NP-schwer). Diese (z.B. TSP) werden mit Approximationsalgorithmen berechnet, die effizient berechenbar sind, aber nicht unbedingt die optimale Lösung liefern. Beispielsweise ist es relativ einfach, eine Tour zu finden, die höchstens um den Faktor zwei länger ist als die optimale Tour. Die Methode beruht darauf, dass einfach der minimale Spannbaum ermittelt wird.

Approximationsalgorithmus für TSP

  • TSP für n Knoten sei durch Abstandsmatrix D = (d_{ij}) 1 \le i, j \le n
gegeben (vollständiger Graph mit n Knoten, dij = Kosten der Kante (i,j))
gesucht: Rundreise mit minimalen Kosten. Dies ist NP-schwer!
  • D erfüllt die Dreiecksungleichung  \Leftrightarrow d_{ij} + d_{jk} \geq d_{ik} \text{ fuer } \forall{i, j, k} \in \lbrace 1, ..., n  \rbrace
  • Dies ist insbesondere dann erfüllt, wenn D die Abstände bezüglich einer Metrik darstellt oder D Abschluss einer beliebigen Abstandsmatrix C ist, d.h. :dij = Länge des kürzesten Weges (bzgl. C) von i nach j.
  • Die ”Qualität”der Lösung mit einem Approximationsalgorithmus ist höchstens um einen konstanten Faktor schlechter ist als die des Optimums.

Systematisches Erzeugen aller Permutationen

  • Allgemeines Verfahren, wie man von einer gegebenen Menge verschiedene Schlüssel - in diesem Fall: Knotennummern - sämtliche Permutationen systematisch erzeugen kann.
  • Trick: interpretiere jede Permutation als Wort und betrachte dann deren lexikographische ("wie im Lexikon") Ordnung.
  • Der erste unterschiedliche Buchstabe unterscheidet. Wenn die Buchstaben gleich sind, dann kommt das kürzere Wort zuerst.

gegeben: zwei Wörter a, b der Länge n=len(a) bzw. m=len(b). Sei k = min(n,m) (im Spezialfall des Vergleichs von Permutationen gilt k = n = m)
Mathematische Definition, wie die Wörter im Wörterbuch sortiert sind:

a<b \Leftrightarrow 
\begin{cases}
n < m & \text{ falls fuer } 0 \le i \le k-1 \text{ gilt: } a[i] = b[i] \\
a[j] < b[j] & \text{ falls fuer } 0 \le i \le j-1 \text{ gilt: } a[i] = b[i], \text{ aber fuer ein } j<k: a[j] \ne b[j]
\end{cases}

Algorithmus zur Erzeuguung aller Permutationen:

  1. beginne mit dem kleinsten Wort bezüglich der lexikographischen Ordnung => das ist das Wort, wo a aufsteigend sortiert ist
  2. definiere Funktion "next_permutation", die den Nachfolger in lexikographischer Ordnung erzeugt

Beispiel: Die folgenden Permutationen der Zahlen 1,2,3 sind lexikographisch geordnet

1 2 3    6 Permutationen, da 3! = 6
1 3 2
2 1 3
2 3 1
3 1 2
3 2 1
-----
0 1 2 Position

Die lexikographische Ordnung wird deutlicher, wenn wir statt dessen die Buchstaben a,b,c verwenden:

abc
acb
bac
bca
cab
cba

Eine Funktion, die aus einer gegebenen Permutation die in lexikographischer Ordnung nächst folgende erzeugt, kann wie folgt implementiert werden:

def next_permutation(a):
	i = len(a) -1  #letztes Element; man arbeitet sich von hinten nach vorne durch
	while True:  # keine Endlosschleife, da i dekrementiert wird und damit irgendwann 0 wird
		if i <= 0: return False  # a ist letzte Permutation
		i -= 1
		if a[i]<a[i+1]: break
	#lexikogr. Nachfolger hat größeres a[i]
	j = len(a)
	while True:
		j -= 1
		if a[i] < a[j]: break
	a[i], a[j] = a[j], a[i] #swap a[i], a[j]
	#sortiere aufsteigend zwischen a[i] und Ende
	#zur Zeit absteigend sortiert => invertieren
	i += 1
	j = len(a) -1
	while i < j:
		a[i], a[j] = a[j], a[i]
		i += 1
		j-= 1
	return True  # eine weitere Permutation gefunden
 	
 def naiveTSP(graph):
	start = 0
	result = range(len(graph))+[start]
	rest = range(1,len(graph))
	c = pathCost(result, graph)
	while next_permutation(rest):
		r = [start]+rest+[start]
		cc = pathCost(r, graph)
		if cc < c:
			c = cc
			result = r
		return c, result


Komplexität: (v − 1)! Schleifendurchläufe (=Anzahl der Permutationen, da die Schleife abgebrochen wird, sobald es keine weiteren Permutationen mehr gibt), also O(v!) = O(vv)


Beispiel
i = 0 j = 3
1 4 3 2 #input für next_permutation
i = 2 j = 3
2 4 3 1 # vertauschen der beiden Elemente
i = 2
j = 2


1 2 3 4 #absteigend sortiert

Stirling'sche Formel

Wikipedia (de) (en)

Die Stirling-Formel ist eine mathematische Formel, mit der man für große Fakultäten Näherungswerte berechnen kann. Die Stirling-Formel findet überall dort Verwendung, wo die exakten Werte einer Fakultät nicht von Bedeutung sind. Damit lassen sich durch die Stirling'sche Formel z.T. starke Vereinfachungen erzielen. v! \approx \sqrt{2 \pi v} \left(\frac{v}{e}\right)^v

O(v!) = O\left(\sqrt{v}\left(\frac{v}{e}\right)^v\right) \approx O(v^v)


Anwendung: Das Erfüllbarkeitsproblem in Implikationengraphen

Das Erfüllbarkeitsproblem hat auf den ersten Blick nichts mit Graphen zu tun, denn es geht um Wahrheitswerte logischer Ausdrücke. Man kann logische Ausdrücke jedoch unter bestimmten Bedingungen in eine Graphendarstellung überführen und somit das ursprüngliche Problem auf ein Problem der Graphentheorie reduzieren, für das bereits ein Lösungsverfahren bekannt ist. In diesem Abschnitt wollen wir dies für die sogenannten Implikationengraphen zeigen, ein weiteres Beispiel findet sich im Kapitel NP-Vollständigkeit.

Das Erfüllbarkeitsproblem

(vgl. WikiPedia (de))

Das Erfüllbarkeitsproblem (SAT-Problem, von satisfiability) befasst sich mit logischen (oder Booleschen) Funktionen: Gegeben sei eine Menge {x1,...,xn} Boolscher Variablen (d.h., die xi können nur die Werte True oder False annehmen), sowie eine logische Formel, in der die Variablen mit den üblichen logischen Operatoren

\neg\quad: Negation ("nicht", in Python: not)
\vee\quad: Disjunktion ("oder", in Python: or)
\wedge\quad: Konjuktion ("und", in Python: and)
\rightarrow\quad: Implikation ("wenn, dann", in Python nicht als Operator definiert)
\leftrightarrow\quad: Äquivalenz ("genau dann, wenn", in Python: ==)
\neq\quad: exklusive Disjunktion ("entweder oder", in Python: !=)

verknüpft sind. Klammern definieren die Reihenfolge der Auswertung der Operationen. Für jede Belegung der Variablen xi mit True oder False liefert die Formel den Wert der Funktion, der natürlich auch nur True oder False sein kann. Wenn Formel und Belegung gegeben sind, ist die Auswertung der Funktion ein sehr einfaches Problem: Man transformiert die Formel in einen Parse-Baum (siehe Übungsaufgabe "Taschenrechner) und wertet jeden Knoten mit Hilfe der üblichen Wertetabellen für logische Operatoren aus, die wir hier zur Erinnerung noch einmal angeben:

a b a \vee b a \wedge b a \rightarrow b b \rightarrow a a \leftrightarrow b a \neq b
0 0 0 0 1 1 1 0
0 1 1 0 1 0 0 1
1 0 1 0 0 1 0 1
1 1 1 1 1 1 1 0

Beim Erfüllbarkeitsproblem wird die Frage umgekehrt gestellt:

Gegeben sei eine logische Funktion. Ist es möglich, dass die Funktion jemals den Wert True annimmt?

Das heisst, kann man die Variablen xi so mit True oder False belegen, dass die Formel am Ende wahr ist? Im Prinzip kann man diese Frage durch erschöpfende Suche leicht beantworten, indem man die Funktion für alle 2n möglichen Belegungen einfach ausrechnet, aber das dauert für große n (ab ca. n\ge 40) viel zu lange. Erstaunlicherweise ist es aber noch niemanden gelungen, einen Algorithmus zu finden, der für beliebige logische Funktionen schneller funktioniert. Im Gegenteil wurde gezeigt, dass das Erfüllbarkeitsproblem NP-vollständig ist, so dass wahrscheinlich kein solcher Algorithmus existiert. Trotz (oder gerade wegen) seiner Schwierigkeit hat das Erfüllbarkeitsproblem viele Anwendungen gefunden, vor allem beim Testen logischer Schaltkreise ("Gibt es eine Belegung der Eingänge, so dass am Ausgang der verbotene Wert X entsteht?") und bei der Planerstellung in der künstlichen Intelligenz ("Kann man ausschließen, dass der generierte Plan Konflikte enthält?"). Es ist außerdem ein beliebtes Modellproblem für die Erforschung neuer Ideen und Algorithmen für schwierige Probleme.

Normalformen für logische Ausdrücke

Um die Beschreibung von Erfüllbarkeitsproblemen zu vereinfachen und zu vereinheitlichen, hat man verschiedene Normalformen für logische Ausdrücke eingeführt. Die wichtigste ist die Konjuktionen-Normalform (CNF - conjunctive normal form). Ein Ausdruck in Konjuktionen-Normalform ist eine UND-Verknüpfung von M Klauseln:

(CLAUSE1) \wedge (CLAUSE2) \wedge ...  \wedge (CLAUSEM)

Jede Klausel ist wiederum ein logischer Ausdruck, der aber sehr einfach sein muss: Er darf nur noch k Variablen enthalten, die nur mit den Operatoren NICHT und ODER verknüpft werden dürfen, z.B.

 CLAUSE1 := x_1 \vee \neg x_3 \vee x_8

Je nachdem, wie viele Variablen pro Klausel erlaubt sind, spricht man von k-CNF und entsprechend von einem k-SAT Problem. Es ist außerdem üblich, die Menge der Variablen und die Menge der negierten Variablen zusammen als Menge der Literale zu bezeichnen:

 LITERALS := \{x_1,...,x_n\} \cup \{\neg x_1,...,\neg x_n\}

Formal definiert man die k-Konjunktionen-Normalform (k-CNF) am besten durch eine Grammatik in Backus-Naur-Form:

   k_CNF    ::=  CLAUSE | k_CNF \wedge CLAUSE
   CLAUSE   ::= (LITERAL \vee ... \vee LITERAL)  # genau k Literale pro Klausel
   LITERAL  ::=  VARIABLE | \negVARIABLE
   VARIABLE ::=  x1 | ... | xn

Beispiele:

  • 3-CNF: (x_1 \vee \neg x_2 \vee x_4) \wedge (x_2 \vee x_3 \vee \neg x_4) \wedge (\neg x_1 \vee x_4 \vee \neg x_5)
  • 2-CNF: (x_1 \vee \neg x_2) \wedge (x_3 \vee x_4) ...

Gesucht ist eine Belegung der Variablen mit True und False, so dass der Ausdruck den Wert True hat. Aus den Eigenschaften der UND- und ODER-Verknüpfungen folgt, dass ein Ausdruck in k-CNF genau dann True ist, wenn jede einzelne Klausel True ist. In jeder Klausel wiederum hat man k Chancen, die Klausel True zu machen, indem man eins der Literale zu True macht. Eventuell werden dadurch aber andere Klauseln wieder zu False, was die Aufgabe so schwierig macht. Die Bedeutung der k-CNF ergibt sich aus folgendem

Satz
Jeder logische Ausdruck kann effizient nach 3-CNF transformiert werden, jedoch im allgemeinen nicht nach 2-CNF.

Man kann sich also auf Algorithmen für 3-SAT-Probleme konzentrieren, ohne dabei an Ausdrucksmächtigkeit zu verlieren.

Leider gilt der entsprechende Satz nicht für k=2: Ausdrücke in 2-CNF sind weit weniger mächtig, weil man in jeder Klausel nur noch zwei Wahlmöglichkeiten hat. Bestimmte logische Ausdrücke sind aber auch nach 2-CNF transformierbar, beispielsweise die Bedingung, dass zwei Literale u und v immer den entgegegesetzten Wert haben müssen. Dies ergibt ein Paar von ODER-Verknüpfungen:

(u \leftrightarrow \neg v) \equiv (u \vee \neg v) \wedge (\neg u \vee v)

Die 2-CNF hat den Vorteil, dass es effiziente Algorithmen für das 2-SAT-Problem gibt, die wir jetzt kennenlernen wollen. Es zeigt sich, dass man Ausdrücke in 2-CNF als Graphen repräsentieren kann, indem man sie zunächst in die Implikationen-Normalform (INF für implicative normal form) überführt. Die Implikationen-Normalform besteht ebenfalls aus einer Menge von Klauseln, die durch UND-Operationen verknüpft sind, aber jede Klausel ist jetzt eine Implikation. Die Grammatik der Implikationen-Normalform (INF) lautet:

   INF      ::=  CLAUSE | INF \wedge CLAUSE
   CLAUSE   ::= (LITERAL \rightarrow LITERAL)  # genau 2 Literale pro Implikation
   LITERAL  ::=  VARIABLE | \negVARIABLE
   VARIABLE ::=  x1 | ... | xn

und ein gültiger Ausdruck wäre z.B.

(x_1 \to x_2) \wedge (x_2 \to \neg x_3) \wedge (x_4 \to x_3)

Die Umwandlung von 2-CNF nach INF beruht auf folgender Äquivalenz, die man sich aus der obigen Wahrheitstabelle leicht herleitet:

(x \vee y) \equiv (\neg x \rightarrow y) \equiv (\neg y \rightarrow x)

Aus dieser Äquivalenz folgt der

Satz
Ein Ausdruck in 2-CNF kann nach INF transformiert werden, indem man jede Klausel (x \vee y) durch das Klauselpaar (\neg x \rightarrow y) \wedge (\neg y \rightarrow x) ersetzt.

Man beachte, dass man für jede ODER-Klausel des ursprünglichen Ausdrucks zwei Implikationen (eine für jede Richtung des "wenn, dann") einfügen muss, um die Symmetrie des Problems zu erhalten.

Lösung des 2-SAT-Problems mit Implikationgraphen

Jeder Ausdruck in INF kann als gerichteter Graph dargestellt werden:

  1. Für jedes Literal wird ein Knoten in den Graphen eingefügt. Es gibt also für jede Variable und für ihre Negation jeweils einen Knoten, d.h. 2n Knoten insgesamt.
  2. Jede Implikation ist eine gerichtete Kante.

Implikationengraphen eignen sich, um Ursache-Folge-Beziehungen oder Konflikte zwischen Aktionen auszudrücken. Beispielsweise kann man die Klausel (x \rightarrow \neg y) als "wenn man x tut, darf man y nicht tun" interpretieren. Ein anderes schönes Beispiel findet sich in Übung 12.

Für die Implementation eines Implikationengraphen in Python empfiehlt es sich, die Knoten geschickt zu numerieren: Ist die Variable xi dem Knoten i zugeordnet, so sollte die negierte Variable \neg x_i dem Knoten (i+n) zugeordnet werden. Zu jedem gegebenen Knoten i findet man dann den negierten Partnerknoten j leicht durch die Formel j = (i + n ) % (2*n).

Die Aufgabe besteht jetzt darin, folgende Fragen zu beantworten:

  1. Ist der durch den Implikationengraphen gegebene Ausdruck erfüllbar?
  2. Finde eine geeignete Belegung der Variablen, wenn der Ausduck erfüllbar ist.

Die erste Frage beantwortet man leicht, indem man die stark zusammenhängenden Komponenten des Implikationengraphen bildet. Dann gilt folgender

Satz
Seien u und v zwei Literale, die sich in der selben stark zusammenhängenden Komponente befinden. Dann müssen u und v stets den selben Wert haben, damit der Ausdruck erfüllt sein kann.

Die Korrektheit des Satzes folgt aus der Definition der stark zusammenhängenden Komponenten: Da u und v in der selben Komponente liegen, gibt es im Implikationengraphen einen Weg u \rightsquigarrow v sowie einen Weg v \rightsquigarrow u. Wegen der Transitivität der "wenn, dann" Relation kann man die Wege zu zwei Implikationen verkürzen, die gleichzeitig gelten müssen: (u \rightarrow v) \wedge (v \rightarrow u) (die Verkürzung von Wegen zu direkten Kanten entspricht gerade der Bildung der transitiven Hülle für die Knoten u und v). In der obigen Wertetabelle für logische Operatoren erkennt mann, dass dies äquivalent zur Bedingung (u \leftrightarrow v) ist. Dies ist aber gerade die Behauptung des Satzes.

Die Erfüllbarkeit des Ausdrucks ist nun ein einfacher Spezialfall dieses Satzes.

Korrolar
Der gegebene Ausdruck ist genau dann erfüllbar, wenn die Literale xi und \neg x_i sich für kein i in derselben stark zusammenhängenden Komponente befinden.

Setzt man nämlich im Satz u = xi und v = \neg x_i, und beide Knoten befinden sich in der selben Komponente, dann müsste gelten x_i \leftrightarrow\neg x_i, was offensichtlich ein Widerspruch ist. Damit kann der Ausdruck nicht erfüllbar sein. Umgekehrt gilt, dass der Ausdruck immer erfüllbar ist, wenn xi und \neg x_i stets in verschiedenen Komponenten liegen, weil der folgende Algorithmus von Aspvall, Plass und Tarjan in diesem Fall stets eine gültige Belegung aller Variablen liefert:

  1. Bestimme die stark zusammenhängenden Komponenten und bilde den Komponentengraphen. Ordne die Knoten des Komponentengraphen (also die stark zusammenhängenden Komponenten des Originalgraphen) in topologische Sortierung an.
  2. Betrachte die Komponenten in der topologischen Sortierung von hinten nach vorn und weise ihnen einen Wert nach folgenden Regeln zu (zur Erinnerung: alle Literale in der selben Komponente haben den selben Wert):
    • Wenn die Komponente noch nicht betrachtet wurde, setze ihren Wert auf True, und den Wert der komplementären Komponente (derjenigen, die die negierten Literale enthält) auf False.
    • Andernfalls, gehe zur nächsten Komponente weiter.

Der Algorithmus beruht auf der Symmetrie des Implikationengraphen: Weil Kanten immer paarweise (\neg u \rightarrow v) \wedge (\neg v \rightarrow u) eingefügt werden, ist der Graph schiefsymmetrisch (skew symmetric): die eine Hälfte das Graphen ist die transponierte Spiegelung der anderen Hälfte. Enthält eine stark zusammenhängende Komponente Ci die Knoten i1, i2, ..., so gibt es stets eine komplementäre Komponente C_j = \neg C_i, die die komplementären Knoten j1 = (i1 + n) % (2*n), j2 = (i2 + n) % (2*n), ... enthält. Gilt C_i = \neg C_i für irgendein i, so ist der Ausdruck nicht erfüllbar. Den Beweis für die Korrektheit des Algorithmus findet man im Originalartikel. Leider funktioniert dies nicht für k-SAT-Probleme mit k > 2.

Will man nur die Erfüllbarkeit prüfen, vereinfacht sich der Algorithmus zu:

  1. Bestimme die stark zusammenhängenden Komponenten.
  2. Teste für alle i = 0,...,n-1, dass Knoten i und Knoten (i+n) in unterschiedlichen Komponenten liegen.

Ist der Ausdruck erfüllbar, kann man eine gültige Belegung der Variablen jetzt mit dem randomisierten Algorithmus bestimmen, den wir im Kapitel Randomisierte Algorithmen behandeln.


Die Problemklassen P und NP

  • für viele Probleme kein effizienter Algorithmus bekannt (effizient = polynomielle Komplexität
O(np), für ein beliebig großes festes D; nicht effizient: langsamer als polynomiell,
z.b. O(2N))


Bsp:

  • Problem des Handlungsreisenden
  • Steine Bäume verallg. MST: man darf zusätzliche Punkte hinzufügen
  • Clique - Problem: Clique in Graph G: maximaler vollständiger Teilgraph, trivial: 2 Kinder (gibt es eine Clique mit k Mitgliedern?)
  • Integer Linear Programming \hat{x} = arg max cTx [c,x Spaltenvektoren der Länge N]
(s.t. A*x \leq b [A, Matrix MxN, b Spaltenvektor von M]
x\in \mathbb{N}^N, \mathbb{Z}^N, {0, 1}N \implies nicht effizient
x\in \mathbb{R}^N \implies effizient)

Einleitung

  • Komplexitätsklasse P: Effiziente Lösung bekannt (sortieren, MST, Dijkstra)
  • Komplexitätsklasse NP: Existiert ein effizienter Algorithmus um einen geratenen Lösungsvorschlag zu überprüfen.
geraten durch "Orakel" -> Black Box, nicht bekannt wie!
offensichtlich gilt P\subsetNP (bekannter Lösungsalgorithmus kann immer als Orakel dienen). Offen ob:
-P\subsetNP (es gibt Probleme ohne effizienten Alg)
-oder P=NP (effizienter Algorithmus nur noch nicht entdeckt)
  • Komplexitätsklasse NP-Vollständig (NP-C [complete]): Schwierigste Probleme in NP, wenn Q\inNP-C kann man mit Algorithmus für Q indirekt auch jedes andere Problem in NP lösen
R\inNP \rightsquigarrowQ(R)\inNP-C (Reduktion)
\downarrow
Lösung (R) \rightsquigarrow Lösung Q(R)
Reduktion muss effizient funktionieren, d.h. O(\N^D)
  • Komplexitätsklasse NP-Schwer (NP-hard): mindestens so schwer wie NP-C, aber nicht unbedingt \inNP

Image:DiagramNP.jpg Vereinfachung: NP enthält nur Entscheigungsprobleme: Fragen mit Ja/Nein-Antwort.

z.B.
TSP-Optimierungsproblem (NP-Schwer):
gegeben: gewichteter Graph
gesucht: kürzeste Rundreise
TSP-Entscheidungsproblem (NP-Vollständig):
gegeben: gewichteter Graph
\existRundreise \le 200kM, ist das wahr oder falsch?
Orakel: "Rundreise Z ist \le200kM" \impliesleicht & effizient zu testen


Klassische Definition von NP: Probleme die von einer nicht-deterministischen Turingmaschine gelöst werden können (N = Nicht deterministisch, P = Polynomiell).

nicht deterministische Turingmaschine: formale Definition kompliziert \rightarrow Theoretische Informatik
anschaulich: TM kann in kritischen Situationen das Orakel fragen und sich vorsagen lassen

moderne Definition: "polynomiell Verifizierbar": es gibt effizienten Algorithmus, der für Probleme X und Entscheidungsfrage Y und Kandidatenlösung Z entscheidet, ob Z eine "ja-Antwort" bei Y impliziert.

Fall 1: korrekte Antwort auf Y ist "ja" (wissen wir aber nicht): \existz: V(X, Y, Z) \implies OK
Z ist Beweis (proof/witness/certificate) dafür, dass Y die Antwort "ja" hat
liefert V(X, Y, Z) \implies falsch, ist Z kein Beweis und wir wissen noch nicht, ib Y mit "ja" oder "nein" zu beantworten ist.
Fall 2: korrekte Antwort auf Y ist "nein": \forallZ V(X, Y, Z) \implies falsch
\implies hat man einen Überprüfungsalgorithmus V, kann man X mit Y stets duch erschöpfende Suche ("brute-force") lösen
für jede mögliche Kandidatenlösung Z:
falls V(X, Y, Z) \implies ok:
return "ja"
return "nein"
\uparrow ineffizient, da es meist exponentiell viele Kandidaten Z gibt.

Erfüllbarkeitsproblem

(SAT-satisfyability) ist das kanonische NP-Vollständige Problem (Satz von Cook 1971)

  • boolsche Variable x1 \in{true, false}, i=1,...,N (Problemgröße N-Bits)
  • logische Ausdrücke Y über X mit Operatoren \lnot, \and, \or, \implies, \leftrightarrow, \neq, ()
z.B. N= 3, Y=(x1\orx2)\and(\lnotx1\orx2) \implies Z=(true[x1], true[x2], true[x3])
  • Entscheidungsfrage: Gibt es eine Belegung con X sodass Y wahr ist?
  • Bei komplizierten Problemen ist kein besserer Algorithmus bekannt als alle 2N Möglichkeiten zu probieren.
  • Jede CPU kann als logische Schaltung geschrieben werden (damit auch jedes while-Programm)
Mit Gattern: Image:Bild 11.jpg
Jede logische Schaltung kann als SAT-Ausdruck geschrieben werden.
  • Bsp.: Zuordnung von Heim und Auswärtsspielen beim Fußball
x_{it} = \begin{cases} 
true,  & \mbox{Mannschaft i hat am Spieltag t Heimspiel} \\
false, & \mbox{Mannschaft i hat am Spieltag t Auswärtsspiel} 
\end{cases}
1. Nebenbedingung: spielt Mannschaft i am Spieltag t gegen Mannschaft j, muss gelten  x_{it} = \lnot x_{jt}
2. Nebenbedingung: Jede Mannschaft spielt gegen jede
3. Nebenbedingung: Jede Mannschaft spielt abwechselnd Heim und auswärts  x_{it} \neq x_{i(t+1)}
Alle Bedingungen sollen gleichzeitig Erfüllt sein:
y = \begin{cases} (x_{11} \neq x_{21}) \and (x_{31} \neq x_{41}) \and ... \\ 
( x_{12} \neq x_{32} ) \and ... \\
( x_{11} \neq x_{12} ) \and ( x_{12} \neq x_{13} ) \and ...
\end{cases}
Frage: Kann man X so belegen, dass Y wahr ist?
\rightarrow Nein, nur möglich wenn es nur 2 Mannschaften gibt und diese abwechselnd gegeneinander antreten.

Normalformen für logische Ausdrücke zur Vereinfachung und Systematisierung

  • 3-CNF (Konjunktionen-NF)
    • jede Klausel enthält max 3 Variablen (genau 3 mit dummy Variablen)
    • jede Klausel enthält nur  \or und / lnot
    • alle Klauseln sind durch  \and verknüpft.

z.B.  ( x_1 \or x_2 \or \lnot x_4 ) \and ( \lnot x_2 \or x_3 \or x_4) \and (...) \and

 \Rightarrow Ausdruck ist wahr, wenn jede Klausel wahr ist.

In jeder Klausel hat man 3 Chancen die Klausel wahr zu machen.
Aber: Klauseln können sich widersprechen und nicht erfüllbar sein!

Satz: Jeder logische Ausdruck effizient (in pol. Zeit) in 3-CNF umwandelbar.

Satz v. Cook: 3-SAT (Erfüllbarkeitsproblem für Ausdrücke in 3-CNF) ist NP-vollständig

zur Zeit ist kein effizienterer Algorithmus bekannt, als im schlechtesten Fall alle 2N Belegungen von {xi} auszuprobieren

2-CNF: wie 3-CNF, nur 2 Variablen pro Klausel \implies effiziente Alg existieren, aber nicht jeder logische Ausdruck in 2-CNF transformierbar.

z.B. Heim-Auswärtsproblem

INF (Implikationen-NF):

  • 2 Variablen pro Klausel, Operatoren  \implies und \lnot
  • Klauseln mit  \and verknüpft.

Satz: jede 2-CNF effizient in INF umwandelbat.

 ( x_i \or x_j ) \rightsquigarrow ( \lnot x_i \implies x_j ) \and ( \lnot x_j \implies x_i )

\implies INF als gerichteter Graph schreibbar und mittels starker Zusammenhangskomponenten lösbar.

x1 x2 x_1 \or x_2 x_1 \implies x_2 \lnot x_1 \implies x_2 (A) \lnot x_2 \implies x_1 (B) A \and B
0 0 0 1 0 0 0
0 1 1 1 1 1 1
1 0 1 0 1 1 1
1 1 1 1 1 1 1



3-SAT ist NP vollständig

Skizze des Beweises:

  1. Unsere Algorithmen können auf einer Turingmaschine ausgeführt werden (äquivalent zur Turingmaschine: λ-Kalkül, while-Programm usw.)
  2. Die Turingmaschine und ein gegebenes (festes) Programm können als logische Schaltung (Schaltnetz) implementiert werden, „Algorithmus in Hardware gegossen“
  3. Jedes Schaltnetzwerk kann als logische Formel geschrieben werden.
4. Jede logische Formel kann in 3-CNF umgewandelt werden
=> Jedes algorithmische Entscheidungsproblem kann als 3-SAT-Problem geschrieben werden.


k-SAT, k=2 in pol. Zeit lösbar

Alg. 1

(f. bei k) (nur für k=2 effizient) Randomisiert

  • (0) initialisiere xi beliebig
  • (1) wiederhole Tmax - mal
    • (a) wenn das aktuelle x den Ausdruck erfüllt: return x (x=[x1, ... , xN])
    • (b) wähle zufällig eine Klausel, die nicht erfüllt ist
    • (c) wähle in dieser Klausel zufällig eine der k Variablen und invertiere sie => Klausel ist jetzt erfüllt
(andere können jetzt false geworden sein)
(x_1 \or x_2 ) \and ( x_1 \or \lnot x_2 )      x1 = 0,x2 = 0,      x2 auf 1 => 1. Klausel wahr, 2. falsch
  • (2) return "keine Lösung gefunden"

Nach wie vielen Iterationen wird im Mittel eine Lösung gefunden?

  • Ausdruck unerfüllbar => Endlosschleife, Timeout nach Tmax Iterationen
  • Ausrduck erfüllbar:
    • falls k\geq3: nach O((\frac{2(k-1)}{k})^N) Iterationen wird Lösung gefunden
    • k=3: O((\frac{4}{3})^N) exponentielle Zeit, wie zu erwarten für NP-vollständiges Problem
    • k=2: O(N2) Iterationen bis Lösung

Beweis: Algorithmus entspricht im Wesentlichen dem Random Walk

Sei x * die korrekte Lösung und x die aktuelle Belegung
RW: Stuhl i \mathrel{\hat=} i Variablen zwischen x * und x stimmen überein => Ziel: erreiche Stuhl N
  • (c):
    • Fall 1: beide Variablen falsch => egal welche wir invertieren, bewegen wir uns von Stuhl i zu i+1
    • Fall 2: eine Variable ist falsch:
      • mit Wahrscheinlichkeit 1/2 wählen wir diese und gehen von i nach i+1
      • mit Wahrscheinlichkeit 1/2 wählen wir die andere und gehen von i nach i-1

schlechtester Fall: Es existiert keine Lösung x * und wir haben immer Fall 2

=>RW braucht O(N2i2) Schritte zum Stuhl N \mathrel{\hat=} O(N^2) falls i anfangs zufällig ist

Alg. 2 (det. Alg. für k=2 mittels SZK in gerichtetem Graphen)

geg.: Ausdruck 2-CNF
  • (1) wandle nach INF: ersetze jede Klausel (x_i \or x_j) durch (\lnot x_i \Rightarrow x_j) \and (\lnot x_j \Rightarrow x_i)
(entsprechend, wenn in Originalklausel \lnot vorkommen)
  • (2) repräsentiere den Ausdruck als Graph:
    • (a) 2 Knoten pro Var:v_i \mathrel{\hat=} x_i , v_{i+N} \mathrel{\hat=} \lnot x_i
    • (b) Verbindung für jede Implikation durch korrespondierenden Knoten durch gerichtete Kante

Bsp.: C_1 \and C_2 \Leftrightarrow (\lnot x_1 \Rightarrow x_2 ) \and (\lnot x_2 \Rightarrow x_1) \and (x_2 \Rightarrow x_3) \and (\lnot x_3 \Rightarrow \lnot x_2)

  • (3) Prüfe ob der Ausdruck erfüllbar ist. Bilde SZK des Graphen
Satz: Ausdruck erfüllbar \Leftrightarrow \foralli: vi und vi + N sind in verschiedenen Komponenten

Beweis: in jeder SZK gilt: u,v \in SZK: \exists u \rightsquigarrow v und v \rightsquigarrow u

Kanten \to Implikationen, Implikationen sind transitiv
\Rightarrow u \rightsquigarrow v \mathrel{\hat=} u \to v           \to u \leftrightarrow v   bzw.   u == v
 v \rightsquigarrow u \mathrel{\hat=} v \to u
\Rightarrow alle Knoten in einer SZK haben den gleichen Wahrheitswert true oder false
aber vi und v_{i+N} \mathrel{\hat=} x_i und \lnot x_i haben immer verschiedene Werte
\Rightarrow v_i und vi + N dürfen nicht in selber SZK sein, andernfalls fordert der Graph x_i == \lnot x_i, was unmöglich ist.


  • (4) Bilde den Komponentengraphen \to azyklisch (zu jedem Knoten existiert Komplementärknoten mit negierter Variable)[jede SZK in je 1 Knoten kontrahieren]
    • (b) bestehende topologische Sortierung
    • (c) gehe in topologischer Sortierung von hinten nach vorne
      • (I) wenn aktueller Knoten noch keinen Wert hat: setze ihn auf true und Komplementoren false
      • (II) sonst: überspringe Knoten

Beweis, dass ein Problem aus NP auch NP-vollständig ist

  • Möglichkeit 1: z.B. 3-SAT (Satz von Cook): mühsam, aber mindestens für ein Problem unbermeidbar (für erstes)
  • Möglichkeit 2: zeige dass jedes Problem vom Typ A in eines von Typ B umwandelbar (in pol. Zeit)
    • \Rightarrow Problem Type B nicht einfacher als Typ A
    • falls Typ A NP-vollständig \Rightarrow Typ B auch

Anwendung auf TSP

3-SAT \le Hamiltonzyklus im gerichteten Graph \le Hamiltonzyklus im ungerichteten Graph \le TSP im gerwichteten ungerichteten Graph

Personal tools