Tutor: Michalis Vazirgiannis
URL: https://www.lix.polytechnique.fr/Labo/Michalis.Vazirgiannis/
LLMs & the Greek Language:
Τα ελληνικά είναι μία σχετικά μικρή γλώσσα σημαντική όμως καθώς πάρα πολλές ελληνικές λέξεις είναι εμφυτευμένη σε πολλές γλώσσες του δυτικού κόσμου. Τα τελευταία χρόνια έχει γίνει μία τεράστια ανάπτυξη της τεχνολογίας των μεγάλων γλωσσικων μοντέλο. Στο πλασιο αυτο τα ελληνικά μπορούν να καταταχθούν στην κατηγορία των γλωσσών χαμηλών πόρων (low resource languages). Στο πλαίσιο αυτό θα παρουσιάσουμε μία εισαγωγή τα βασικά θέματα μεθόδους και αρχιτεκτονικές τον μεγάλων γλωσσικών μοντέλων και προσπάθειας που εχουν γινει η ειναι σε εξελιξη για (μεγάλα) γλωσσικα μοντέλα τα οποία έχουν εκπαιδευτεί σε πλουσιο ελληνικό περιεχόμενο με έμφαση στο GreekBART.
References
[1] GreekBART: The First Pretrained Greek Sequence-to-Sequence Model Iakovos Evdaimon, Hadi Abdine, Christos Xypolopoulos, Stamatis Outsios, Michalis Vazirgiannis, Giorgos Stamou, to appear in LREC 2024, https://arxiv.org/abs/2304.00869
Multimodal Graph Generative AI
Abstract: Graph generative models are recently gaining significant interest in current application domains. They are commonly used to model social networks, knowledge graphs, molecules and proteins. In this talk we will present the potential of graph generative models and our recent relevant efforts in the biomedical domain. More specifically we present a novel architecture that generates medical records as graphs with privacy guarantees. We capitalize and modify the graph Variational autoencoders (VAEs) architecture. We train the generative model with the well known MIMIC medical database and achieve generated data that are very similar to the real ones yet provide privacy guarantees. We achieve there as well promising results with potential for future application in broader biomedical related tasks. Finally we present ongoing research directions for multi modal generative models involving graphs and applications to protein function text generation – the prot2text model.
Περίληψη: Τα γενεσιουργα μοντέλα γραφημάτων (ΓΜΓ) κερδίζουν πρόσφατα σημαντικό ενδιαφέρον σε σημερινούς τομείς εφαρμογών. Χρησιμοποιούνται συνήθως για τη μοντελοποίηση κοινωνικών δικτύων, γράφων γνώσης, μορίων και πρωτεϊνών. Σε αυτή την ομιλία θα παρουσιάσουμε τις δυνατότητες των παραγωγικών μοντέλων γράφων και τις πρόσφατες σχετικές προσπάθειές μας στον τομέα της βιοϊατρικής. Πιο συγκεκριμένα παρουσιάζουμε μια νέα αρχιτεκτονική που παράγει ιατρικά αρχεία ως γράφους με εγγυήσεις ιδιωτικότητας. Αξιοποιούμε και τροποποιούμε την αρχιτεκτονική των αυτοκωδικοποιητών μεταβλητών γράφων (VAEs). Εκπαιδεύουμε το παραγωγικό μοντέλο με τη γνωστή ιατρική βάση δεδομένων MIMIC και επιτυγχάνουμε παραγόμενα δεδομένα που μοιάζουν πολύ με τα πραγματικά, αλλά παρέχουν εγγυήσεις ιδιωτικότητας. Επιτυγχάνουμε και εκεί πολλά υποσχόμενα αποτελέσματα με δυνατότητες μελλοντικής εφαρμογής σε ευρύτερες βιοϊατρικές εργασίες. Τέλος, παρουσιάζουμε τρέχουσες ερευνητικές κατευθύνσεις για πολυτροπικά παραγωγικά μοντέλα που περιλαμβάνουν γράφους και εφαρμογές στην παραγωγή κειμένου πρωτεϊνικών συναρτήσεων – το μοντέλο prot2text.
References
[1] Prot2Text: Multimodal Protein’s Function Generation with GNNs and Transformers
H. Abdine, M. Chatzianastasis, C.Bouyioukos, M. Vazirgiannis, AAAI 2023, https://arxiv.org/abs/2307.14367
[2] Neural Graph Generator: Feature-Conditioned Graph Generation using Latent Diffusion Models Iakovos Evdaimon, Giannis Nikolentzos, Michail Chatzianastasis, Hadi Abdine, Michalis Vazirgiannis, https://arxiv.org/abs/2403.01535
Tutor: Antonis Bikakis
URL: https://profiles.ucl.ac.uk/32337-antonios-bikakis
Introduction to Formal Argumentation
Abstract
Formal Argumentation is a research area within Artificial Intelligence, which
uses formal methods from logic and graph theory to study arguments,
argument-based inference and argument-based dialogues. Since Dung’s seminal
paper “On the Acceptability of Arguments and Its Fundamental Role in
Nonmonotonic Reasoning, Logic Programming, and n-Person Games” in 1995, which
introduced Abstract Argumentation Frameworks (AAF), this area has been
attracting growing interest, due to the simplicity of the AAF model, and its
ability to capture various aspects of human reasoning and communication.
This tutorial will introduce the main concepts of formal argumentation and will
provide an overview of the main developments in this area in the last three
decades. The audience will develop a good understanding of Abstract
Argumentation Frameworks and extensions of this model that capture fundamental
concepts of Multiagent Systems, such as dialogues, preferences and trust. They
will also develop a practical appreciation of Formal Argumentation with a
hands-on session focused on its computational aspects and with a presentation of
real-world applications in several domains such as the Web, Medicine and Law.
References
[1] Dung, P.M. (1995). On the acceptability of arguments and its fundamental role
in nonmonotonic reasoning, logic programming, and n-person games.
Artificial Intelligence, 77:321-357,
https://www.sciencedirect.com/science/article/pii/000437029400041X
[2] Pietro Baroni, Martin Caminada and Massimiliano Giacomin (2011). An introduction
to argumentation semantics. The Knowledge Engineering Review, Volume 26, Issue 4,
December 2011, pp. 365-410,
https://dl.acm.org/doi/10.1017/S0269888911000166
[3] Pietro Baroni, Dov Gabbay, Massimilino Giacomin and Leendert van der Torre,
Handbook of Formal Argumentation, vol.1, College Publications, 2018,
ISBN 978-1-84890-275-6,
available at https://www.collegepublications.co.uk/handbooks/?00003