Abdullah Makkeh

Resume

Abdullah Makkeh

I'm interested in information theory, mathematical optimization, data analysis and their applications in studying complex systems. The main focus currently is how does the global computation of entities (esp. neural networks and RL interactions) emerges from their local components in AI systems. For more details, have a look at my research overview. I am also an experineced developer, check my GitHub profile.

Current Positions

• Since October 2019, I'm a senior scientist at the Univesity of Göttingen, Department of Data-driven Analysis of Biological Networks headed by Michael Wibral
• Since November 2019, I am also a guest scientist at the Max Planck Institute for Dynamics and Self-Organization Göttingen, Complex Systems Theory group headed by Viola Priesemann

Past Positions

Sep 2018 -- Sep 2019: Postdoc at the Univesity of Tartu, Institute of Computer Science, in the groups:

• Theorotical Computer Science headed by Dirk Oliver Theis
• Computational Neuroscience headed by Raul Vicente

Education

• PhD (Informatics) University of Tartu (2018, Supervisor: Dirk Oliver Theis)
• MSc (Mathematics) Lebanese University (2013, Supervisor: Bassam Mourad)
• BSc (Mathematics) Lebanese University (2011)

Have a look at my CV (PDF) and publications

Research Overview

A central focus of my research is studying intelligent systems, including the brain, artificial neural networks (ANNs), and interactive agents. These systems perform a multitude of tasks across various modalities such as perception, memorization, decision-making and communication. A unifying mathematical language capable of describing computation in such tasks—without being limited to a specific learning paradigm or implementation—is information theory. Although originally developed to establish the mathematical foundation of communication channels, information theory has been extended in my research to go beyond the channel perspective and contribute to the development of an Information theory of computation in AI systems. This extension has enabled us, on one hand to develop a novel AI framework in which ANNs learn a variety of tasks using only interpretable information-theoretic learning rules (Makkeh et al., 2025; Schneider et al., 2025), and on the other hand, to analyze certain ANNs and reinforcement learning agents, revealing the information-theoretic nature of computation that emerges during learning (Engel et al., 2022; Ehrlich et al., 2023). Information theory of computation in AI systems offers promising pathways to advance the mathematical foundation of machine learning.

Current Work

I am employing Information theory of computation in AI systems to enhance the mechanistic interpretability of LLMs. ( Sneak peek at the code on GitHub )

Selected Publications

For a full list of my publications, please check my Google Scholar profile.

• A general framework for interpretable neural learning based on local information-theoretic goal functions. Abdullah Makkeh, Marcel Graetz, Andreas C. Schneider, David A. Ehrlich, Viola Priesemann, and Michael Wibral. PNAS (2025) Code on GitLab
• What should a neuron aim for? Designing local objective functions based on information theory. Andreas C. Schneider, Valentin Neuhaus, David A. Ehrlich, Abdullah Makkeh, Alexander S. Ecker, Viola Priesemann, and Michael Wibral. ICLR (2025) Code on GitHub
• A Measure of the Complexity of Neural Representations based on Partial Information Decomposition.David A. Ehrlich, Andreas C. Schneider, Viola Priesemann, Michael Wibral, and Abdullah Makkeh TMLR (2023) Code on GitHub
• Introducing a differentiable measure of pointwise shared information. Abdullah Makkeh, Aaron Gutknecht, and Michael Wibral. Physical Review E (2021) Code on GitHub
• Estimating the unique information of continuous variables. Ari Pakman, Amin Nejatbakhsh, Dar Gilboa, Abdullah Makkeh, Luca Mazzucato, Michael Wibral, Elad Schneidman. NeurIps (2021)
• Bits and Pieces: Understanding Information Decomposition from Part-whole Relationships and Formal Logic. Aaron Gutknecht, Michael Wibral, and Abdullah Makkeh. Proceedings of the Royal Society A (2021)

Teaching

Courses

• Introduction to Bayesian Inference and Information theory (Winter 24/25). Co-teaching with Prof. Michael Wibral.
• Discrete Mathematics (Fall 15/16 and 16/17). Co-teaching with Prof. Dirk Oliver Theis,

Seminars

• Statistical Physics of Social and Neural Systems (Winter 24/25). With other tutors (Seminar supervised by Prof. Viola Priesemann).

Contact

Address

Department of Data-driven Analysis of Biological Networks, University of Göttingen, Kellnerweg 06-2.115, 37077 Göttingen, Germany

Email

abdullah.alimakkeh /at/ uni-goettingen /dot/ de

• Twitter
• Facebook
• Instagram
• GitHub

Conferences

Since 2021, I have been involved in organizing the workshop “Methods of Information Theory in Computational Neuroscience” during the Annual Computational Neuroscience meeting (CNS). I have served twice as the chair of this workshop:

• Chair of CNS*2021 Workshop on Methods of Information Theory in Computational Neuroscience
• Chair of CNS*2023 Workshop on Methods of Information Theory in Computational Neuroscience

Impressum

German Legal Notice
Angaben gem. § 5 TMG:
Abdullah Makkeh
Department of Data-driven Analysis of Biological Networks
Kellnerweg 6
D - 37077 Göttingen
Kontaktaufnahme:
E-Mail: [first name] .ali [last name] [AT]uni-goettingen.de

Haftungsausschluss - Disclaimer:
Haftung für Inhalte
Alle Inhalte unseres Internetauftritts wurden mit größter Sorgfalt und nach bestem Gewissen erstellt. Für die Richtigkeit, Vollständigkeit und Aktualität der Inhalte können wir jedoch keine Gewähr übernehmen. Als Diensteanbieter sind wir gemäß § 7 Abs.1 TMG für eigene Inhalte auf diesen Seiten nach den allgemeinen Gesetzen verantwortlich. Nach §§ 8 bis 10 TMG sind wir als Diensteanbieter jedoch nicht verpflichtet, übermittelte oder gespeicherte fremde Informationen zu überwachen oder nach Umständen zu forschen, die auf eine rechtswidrige Tätigkeit hinweisen. Verpflichtungen zur Entfernung oder Sperrung der Nutzung von Informationen nach den allgemeinen Gesetzen bleiben hiervon unberührt.
Eine diesbezügliche Haftung ist jedoch erst ab dem Zeitpunkt der Kenntniserlangung einer konkreten Rechtsverletzung möglich. Bei Bekanntwerden von den o.g. Rechtsverletzungen werden wir diese Inhalte unverzüglich entfernen.

Haftungsbeschränkung für externe Links
Unsere Webseite enthält Links auf externe Webseiten Dritter. Auf die Inhalte dieser direkt oder indirekt verlinkten Webseiten haben wir keinen Einfluss. Daher können wir für die „externen Links“ auch keine Gewähr auf Richtigkeit der Inhalte übernehmen. Für die Inhalte der externen Links sind die jeweilige Anbieter oder Betreiber (Urheber) der Seiten verantwortlich.
Die externen Links wurden zum Zeitpunkt der Linksetzung auf eventuelle Rechtsverstöße überprüft und waren im Zeitpunkt der Linksetzung frei von rechtswidrigen Inhalten. Eine ständige inhaltliche Überprüfung der externen Links ist ohne konkrete Anhaltspunkte einer Rechtsverletzung nicht möglich. Bei direkten oder indirekten Verlinkungen auf die Webseiten Dritter, die außerhalb unseres Verantwortungsbereichs liegen, würde eine Haftungsverpflichtung ausschließlich in dem Fall nur bestehen, wenn wir von den Inhalten Kenntnis erlangen und es uns technisch möglich und zumutbar wäre, die Nutzung im Falle rechtswidriger Inhalte zu verhindern.
Diese Haftungsausschlusserklärung gilt auch innerhalb des eigenen Internetauftrittes „Name Ihrer Domain“ gesetzten Links und Verweise von Fragestellern, Blogeinträgern, Gästen des Diskussionsforums. Für illegale, fehlerhafte oder unvollständige Inhalte und insbesondere für Schäden, die aus der Nutzung oder Nichtnutzung solcherart dargestellten Informationen entstehen, haftet allein der Diensteanbieter der Seite, auf welche verwiesen wurde, nicht derjenige, der über Links auf die jeweilige Veröffentlichung lediglich verweist.
Werden uns Rechtsverletzungen bekannt, werden die externen Links durch uns unverzüglich entfernt.

Urheberrecht
Die auf unserer Webseite veröffentlichen Inhalte und Werke unterliegen dem deutschen Urheberrecht (http://www.gesetze-im-internet.de/bundesrecht/urhg/gesamt.pdf) . Die Vervielfältigung, Bearbeitung, Verbreitung und jede Art der Verwertung des geistigen Eigentums in ideeller und materieller Sicht des Urhebers außerhalb der Grenzen des Urheberrechtes bedürfen der vorherigen schriftlichen Zustimmung des jeweiligen Urhebers i.S.d. Urhebergesetzes (http://www.gesetze-im-internet.de/bundesrecht/urhg/gesamt.pdf). Downloads und Kopien dieser Seite sind nur für den privaten und nicht kommerziellen Gebrauch erlaubt. Sind die Inhalte auf unserer Webseite nicht von uns erstellt wurden, sind die Urheberrechte Dritter zu beachten. Die Inhalte Dritter werden als solche kenntlich gemacht. Sollten Sie trotzdem auf eine Urheberrechtsverletzung aufmerksam werden, bitten wir um einen entsprechenden Hinweis. Bei Bekanntwerden von Rechtsverletzungen werden wir derartige Inhalte unverzüglich entfernen.
Dieses Impressum wurde freundlicherweise von www.jurarat.de zur Verfügung gestellt.

Elements

i = 0;
									
									while (!deck.isInOrder()) {
									print 'Iteration ' + i;
									deck.shuffle();
									i++;
									}
									
									print 'It took ' + i + ' iterations to sort the deck.';