Diss. ETH No. 21059

Electron fractionalization in two-dimensional quantum systems: Majorana fermions and fractional topological insulators DISSERTATION submitted to ETH ZURICH for the degree of DOCTOR OF SCIENCES by TITUS NEUPERT Master of Science in Physics, University of Zurich, Switzerland born May 29, 1985 citizen of Germany

accepted on the recommendation of Prof. Dr. Manfred Sigrist, examiner Dr. Christopher Mudry, co-examiner Prof. Dr. Claudio Chamon, co-examiner

2013

Abstract In condensed matter physics, two distinct notions of topological phases exist, both of which assume a ground state that is separated from all excited states by an energy gap. On one hand, topological band insulators are characterized by gapless excitations that propagate at the system boundary, are universal and robust to localization by disorder. The existence of these boundary degrees of freedom can be predicted from bulk topological invariants of the system, giving rise to a bulk-boundary correspondence. On the other hand, incompressible and featureless many-body phases possess non-trivial topological order, if they support deconfined particle-like excitations with quantum numbers that are a fraction of the quantum numbers of the constituent particles (electrons) of the state. This fractionalization is in one-to-one correspondence with a degeneracy of the groundstate that depends on the genus of the configuration space manifold on which the state is defined. The fractionalized excitations are generically anyons, which in two-dimensional space can have either Abelian or non-Abelian exchange statistics. In this Thesis, di↵erent phases of matter with topological order are studied. Microscopic models in which these phases emerge are provided and characterized. The first Part is concerned with topologically ordered two-dimensional superconductors. The fractionalized excitations of these systems are non-Abelian Majorana states that are bound to vortices in the superconducting order parameter. A Majorana state is a superposition of an electron and a hole and possesses half the degrees of freedom of an electron. We find that whether or not a vortex binds an isolated Majorana state depends sensitively on the normal state band structure of the two-dimensional electron gas. We contrast the situation where the dispersion is that of a massive fermion subject to a Rashba spin-orbit coupling that breaks the SU(2) spin-rotation symmetry with the situation where the dispersion is that of massless Dirac fermions. The former case pertains to two-dimensional electron gases that emerge at interfaces between di↵erent crystals, while the latter case is realized at the surface of three-dimensional topological band insulators. We find that isolated Majorana states can only exist in vortices of the Dirac electron superconductor, regardless whether the superconducting order parameter is dominantly of s-wave or p-wave type. Furthermore, we discuss the peculiar properties of the two-dimensional superconductors without spin-rotation symmetry. They lead us to proposing a setup for a heterostructure that binds a chain of equidistantly spaced Majorana states. We proceed with a second type of topologically ordered states, the so-called fractional Chern insulators and fractional topological insulators. These states emerge in two-dimensional lattice models of repulsively interacting electrons, if the band structure of the model in absence of electron-electron interactions satisfies two prerequisites: First, the electronic band structure must have a nontrivial topological property. We consider the case where a band of either a Chern insulator or a Z2 topological insulator is partially filled. After interactions are switched on, it then yields a fractional Chern insulator and a fractional topological insulator, respectively. Second, the electronic band structure must have a specific energetical property, namely the band of interest must be reasonably flat as compared to the energy gap and the interaction energy scale. We devise lattice models that have these properties and show with exact numerical diagonalization studies of small systems that they support topologically ordered ground states. This way, we find fractional Chern insulators in Chern bands with Chern number one and two, as well as their spontaneous formation in spectrally flattened Z2 topological band insulators, if the interaction breaks time-reversal symmetry by the Stoner mechanism. The fractional Chern insulators resemble in their universal topological properties known fractional quantum Hall states that appear in Landau levels. For the Laughlin series of filling fractions ⌫ = 1/m, m 2 Z, of the flat band, fractional Chern insulators support chiral edge states of anyons with the m-th fraction of the electron charge. These edge states cannot be localized by local perturbations at the edge. In contrast, fractional topological insulators with time-reversal

ii symmetry support Kramers pairs of counter propagating edge modes. These are not necessarily immune to localization, even if the perturbations must obey the time-reversal symmetry. We introduce a hierarchical topological field theory construction of fractional topological insulators with time-reversal symmetry and use it to derive a stability criterion for their edge modes. This criterion takes the form of a Z2 index that distinguishes the case of one from the case of no protected Kramers pair of edge modes. In the last Part of the Thesis, we study the properties of electronic single-particle states in topological band structures in two- and three-dimensional space to understand what allows for the emergence of topologically ordered many-body states when interactions are added. A crucial ingredient is the noncommutative geometry experienced by the electrons, that is, the nontrivial commutation relations obeyed by the electron’s position operator projected to the topological band. We clarify the connection between this noncommutative geometry and the topological invariants of the band structure. As a by-product, this approach allows us to derive a formula for the Hall-conductivity of interacting electrons populating an energetically isolated band.

Riassunto Nella fisica della materia condensata il concetto di fase topologica viene usato in due di↵erenti ambiti, entrambi caratterizzati da uno stato fondamentale separato da un gap energetico da tutti gli stati eccitati. Da un lato gli isolanti di banda topologici, caratterizzati da stati eccitati posti nella banda proibita, che si propagano ai bordi del sistema e che non possono venire localizzati dal disordine. L’esistenza di questi stati eccitati pu` o essere predetta per mezzo di invarianti topologici definiti all’interno del sistema, stabilendo una corrispondenza tra l’interno e i bordi. D’altro lato si dice che stati a molti corpi, incompressibili e senza struttura, posseggono un ordine topologico, quando essi supportano eccitazioni nonlocalizzate di natura particellare con numeri quantici che sono una frazione dei numeri quantici delle particelle (elettroni) costituenti lo stato. Questa frazionalizzazione sta in relazione diretta con una dipendenza della degenerazione dello stato fondamentale dal genere della variet` a sulla quale lo stato `e definito. Le eccitazioni frazionarie sono qualunquoni, che in uno spazio bidimensionale possono avere una statistica di scambio abeliana o non-abeliana. In questa dissertazione vengono studiate diverse fasi topologicamente ordinate e vengono introdotti e caratterizzati alcuni modelli microscopici in cui queste fasi emergono. La prima parte `e dedicata all’ordine topologico in superconduttori bidimensionali. Le eccitazioni frazionarie in questi sistemi sono particelle di Majorana con statistica non-abeliana, che sono legate ai vortici del parametro d’ordine del superconduttore. Una particella di Majorana `e una superposizione di un elettrone con un buco e possiede la met` a dei gradi di libert` a di un elettrone. Arriviamo alla conclusione che se un vortice si lega a una particella di Majorana isolata, oppure no, dipende notevolmente dalla struttura a bande nello stato normale del gas elettronico bidimensionale. In questo contesto contrapponiamo il caso della relazione di dispersione di un fermione massivo sottoposto a un’interazione spin-orbita di Rashba, che rompe la simmetria di rotazione di spin SU(2), al caso della relazione di dispersione di un fermione di Dirac senza massa. Il primo caso si verifica nei gas elettronici bidimensionali che si formano all’interfaccia tra cristalli diversi, mentre il secondo caso descrive gli stati di superficie in isolanti topologici tridimensionali. Arriviamo alla conclusione che particelle di Majorana isolate esistono unicamente nei vortici del superconduttore con elettroni di Dirac, indipendentemente dal fatto se il parametro d’ordine del superconduttore abbia essenzialmente il carattere di un onda di tipo s oppure di tipo p. In conclusione discutiamo le propriet` a specifiche di superconduttori bidimensionali senza simmetria di rotazione di spin. Queste ci consentono di proporre la costruzione di una eterostruttura che permette di legare una catena di particelle di Majorana spaziate in maniera equidistante. In seguito trattiamo una seconda specie di stati topologicamente ordinati, i cosiddetti isolanti di Chern frazionari e gli isolanti topologici frazionari. Questi stati emergono in modelli di reticolo bidimensionali con elettroni che interagiscono in maniera repulsiva, quando la struttura a bande del modello, in assenza dell’interazione tra gli elettroni, soddisfa due condizioni. In primo luogo la struttura elettronica a bande deve essere topologicamente non-banale, cio`e una banda di un isolante di Chern o di un isolante di banda topologico di tipo Z2 `e solo parzialmente piena. Quando l’interazione viene accesa, si ottiene allora un isolante di Chern frazionario, rispettivamente un isolante topologico frazionario. In secondo luogo la struttura elettronica a bande deve adempiere la condizione energetica che la banda rilevante sia sufficientemente piatta rispetto alla scala di energia dell’interazione e all’ampiezza della banda proibita. Sviluppiamo modelli di reticolo con queste propriet` a e mostriamo, per mezzo di diagonalizzazioni numeriche esatte in piccoli sistemi, che essi posseggono stati fondamentali topologicamente ordinati. In questo modo troviamo isolanti di Chern frazionari in bande di Chern con numero di Chern uno e due, come pure la loro formazione spontanea in isolanti di banda topologici di tipo Z2 spettralmente piatti, a condizione che l’interazione rompa la simmetria di inversione temporale

iv per mezzo del meccanismo di Stoner. Le propriet`a topologiche universali degli isolanti di Chern frazionari corrispondono a quelle degli stati Hall quantistici frazionari che appaiono nei livelli di Landau. Nel caso della sequenza di Laughlin, con fattori di riempimento razionali ⌫ = 1/m, m 2 Z della banda piatta, gli isolanti di Chern frazionari posseggono stati di bordo qualunquonici chirali con la m-sima parte della carica di un elettrone. Questi stati di bordo non possono venire localizzati per mezzo di perturbazioni locali. In contrasto, gli isolanti topologici frazionari con simmetria di inversione temporale posseggono coppie di Kramers di modi di bordo che si propagano in direzioni opposte. Questi non sono necessariamente immuni alla localizzazione, anche quando sono permesse unicamente perturbazioni che preservano la simmetria di inversione temporale. Sviluppiamo una descrizione gerarchica degli isolanti topologici frazionari nel contesto di una teoria di campo topologica e la usiamo per derivare un criterio di stabilit` a per gli stati di bordo. Questo criterio `e dato nella forma di un indice Z2 , che distingue il caso di un unica dal caso di nessuna coppia di Kramers di modi di bordo protetta. Nell’ultima parte della dissertazione ci occupiamo delle propriet` a di stati elettronici a una particella in strutture a bande topologiche nello spazio bi- e tridimensionale, per capire quale fattore permette l’emergere di stati a molti corpi topologicamente ordinati quando vengono incluse le interazioni. Un ingrediente cruciale `e la geometria non-commutativa dello spazio in cui gli elettroni si trovano, cio`e le non-banali relazioni di commutazione obbedite dagli operatori di posizione degli elettroni, quando essi vengono proiettati sulla banda topologica. Chiarifichiamo la relazione tra la geometria non-commutativa e gli invarianti topologici della struttura a bande. Inoltre questo approccio ci permette di derivare una formula per la conduttivit` a di Hall per elettroni interagenti in una banda energeticamente isolata.

Zusammenfassung Der Begri↵ einer topologischen Phase wird in der Festk¨ orperphysik gew¨ ohnlich in zwei verschiedenen Zusammenh¨ angen verwendet, die beide von einem Grundzustand ausgehen, der durch eine Energiel¨ ucke von allen angeregten Zust¨ anden getrennt ist. Auf der einen Seite stehen topologische Bandisolatoren, die sich durch Anregungen innerhalb der Energiel¨ ucke auszeichnen, welche sich am Rand des Systems bewegen k¨ onnen und nicht durch Unordnung lokalisiert werden k¨onnen. Die Existenz dieser Anregungen kann mittels topologischen Invarianten, die im Inneren des Systems definiert sind, vorhergesagt werden. Auf der anderen Seite sagt man, dass inkompressible und strukturlose Vielteilchenzust¨ ande topologische Ordnung besitzen, wenn sie ungebundene teilchenartige Anregungen tragen, deren Quantenzahlen ein Bruchteil der Quantenzahlen der Teilchen (Elektronen) sind, die den Zustand ausmachen. Diese Fraktionalisierung steht in einem direkten Zusammenhang mit einer Abh¨ angigkeit der Grundzustandsentartung vom Genus der Mannigfaltigkeit, auf der der Zustand definiert ist. Die fraktionellen Anregungen sind Anyonen, die in zweidimensionalem Raum entweder abelsche oder nicht-abelsche Austauschstatistik haben k¨ onnen. In dieser Dissertation werden verschiedene topologisch geordnete Phasen von Materie untersucht. Es werden mikroskopische Modelle, in denen solche Phasen auftreten, eingef¨ uhrt und charakterisiert. Der erste Teil widmet sich topologischer Ordnung in zweidimensionalen Supraleitern. Die fraktionalen Anregungen dieser Systeme sind nicht-abelsche Majorana-Zust¨ ande, die in Flussschl¨auchen des supraleitenden Ordnungsparameters gebunden sind. Ein Majorana-Zustand ist eine Superposition eines Elektrons mit einem Loch und besitzt die H¨ alfte der Freiheitsgrade eines Elektrons. Wir kommen zu dem Ergebnis, dass es entscheidend von der Bandstruktur im Normalzustand abh¨ angt, ob ein Flussschlauch einen isolierten Majorana-Zustand bindet oder nicht. Dabei stellen wir den Fall der Dispersionsrelation eines massebehafteten Fermions mit Rashba Spin-Bahn-Wechselwirkung, welche die SU(2) Spinrotationsinvarianz bricht, dem Fall der Dispersionsrelation eines masselosen Dirac-Fermions gegen¨ uber. Der erste Fall tritt bei zweidimensionalen Elektronengasen an der Grenzfl¨ ache zwischen verschiedenen Kristallen auf, w¨ ahrend der zweite Fall die Oberfl¨ achenzust¨ ande dreidimensionaler topologischer Isolatoren beschreibt. Wir kommen zu dem Schluss, dass isolierte Majorana-Zust¨ ande nur in den Flussschl¨ auchen des Supraleiters mit Dirac-Elektronen existieren, unabh¨ angig davon, ob der supraleitende Ordnungsparameter haupts¨ achlich s- oder p-Wellencharakter hat. Schließlich diskutieren wir die spezifischen Eigenschaften zweidimensionaler Supraleiter ohne Spinrotationssymmetrie. Diese erm¨oglichen uns, den Aufbau einer Heterostruktur vorzuschlagen, welche eine Kette von gleichm¨aßig verteilten Majorana-Zust¨ anden bindet. Im Weiteren behandeln wir eine zweite Art topologisch geordneter Zust¨ ande, die sogenannten fraktionalen Chern-Isolatoren und fraktionalen topologischen Isolatoren. Diese Zust¨ ande findet man in zweidimensionalen Gittermodellen repulsiv wechselwirkender Elektronen, wenn deren Bandstruktur ohne die Elektron-Elektron-Wechselwirkung zwei Vorraussetzungen erf¨ ullt: Zum einen muss die elektronische Bandstruktur topologisch nichttrivial sein, das heißt es handelt sich um partiell gef¨ ullte B¨ ander entweder eines Chern-Isolators oder eines Z2 topologischen Bandisolators. Wenn die Wechselwirkungen eingeschaltet werden, kann dann ein fraktionaler Chern-Isolator beziehungsweise ein fraktionaler topologischer Isolator entstehen. Zum anderen muss die elektronische Bandstruktur die energetische Voraussetzung erf¨ ullen, dass das relevante Band verglichen mit der Bandl¨ ucke und der Energieskala der Wechselwirkung ausreichend flach ist. Wir entwickeln Gittermodelle mit diesen Eigenschaften und zeigen mittels numerischer exakter Diagonalisierung kleiner Systeme, dass sie topologisch geordnete Grundzust¨ ande besitzen. Auf diese Weise finden wir fraktionale Chern-Isolatoren in Chern-B¨ andern mit Chern-Zahl eins und zwei, sowie deren spontane Entstehung in spektral flachen Z2 topologischen Bandisolatoren,

vi sofern die Wechselwirkung mittels des Stoner-Mechanismus die Zeitumkehrsymmetrie bricht. Die universellen topologischen Eigenschaften fraktionaler Chern-Isolatoren entsprechen denen fraktionaler Quanten-Hall-Zust¨ ande in Landau-Niveaus. Im Falle der gebrochenrationalen F¨ ullungen ⌫ = 1/m, m 2 Z, der Laughlin-Sequenz besitzen sie chirale anyonische Randzust¨ ande mit dem m-ten Teil der Elektronenladung, die nicht durch lokale St¨ orungen am Rand lokalisiert werden k¨onnen. Im Gegensatz dazu besitzen fraktionale topologische Isolatoren mit Zeitumkehrsymmetrie Kramers-Paare gegenl¨ aufiger Randmoden. Diese sind nicht notwendigerweise immun gegen¨ uber Lokalisierung, selbst wenn nur zeitumkehrsymmetrische St¨ orungen zugelassen sind. Wir entwickeln eine hierarchische Beschreibung fraktionaler topologischer Isolatoren im Rahmen einer topologischen Feldtheorie und benutzen diese, um ein Stabilit¨ atskriterium f¨ ur die Randmoden herzuleiten. Dieses Kriterium ist in Form eines Z2 Index gegeben, der den Fall eines einzelnen vom Fall keines gesch¨ utzten Kramers-Paares von Randmoden unterscheidet. Im letzten Teil der Dissertation besch¨ aftigen wir uns mit den Eigenschaften elektronischer Einteilchenzust¨ande in topologischen Bandstrukturen in zwei- und dreidimensionalem Raum, um zu verstehen, was beim Einbeziehen von Wechselwirkungen das Entstehen topologisch geordneter Vielteichenzust¨ande erm¨ oglicht. Von zentraler Bedeutung ist, dass sich die Elektronen in einer nichtkommutativen Geometrie befinden, die von nichttrivialen Kommutationsrelationen der elektronischen Ortsoperatoren herr¨ uhrt, wenn diese in das topologische Band projiziert werden. Wir kl¨aren die Beziehung zwischen der nichtkommutativen Geometrie und den topologischen Invarianten der Bandstruktur. Nebenbei erlaubt uns diese Herangehensweise eine Formel f¨ ur die Hall-Leitf¨ahigkeit wechselwirkender Elektronen in einem isolierten Band herzuleiten.