View: session overviewtalk overview
09:00 | Der Einsatz von KI-Tools im Maschinenbau PRESENTER: Elisa Girleanu ABSTRACT. Der Vortrag befasst sich mit dem Einsatz eines typischen KI-Tools im Maschinenbau. Behandelt wird die Frage, unter welchen Voraussetzungen ein KI-Tool in den Hochrisiko-Bereich der KI-VO fällt, wobei der Fokus auf der Auslegung des Begriffes des „Sicherheitsbauteils“ im Zusammenspiel mit der Maschinen-VO liegt. Weiters wird analysiert, inwiefern Methoden der Retrieval Augmented Generation (RAG) als Training eines KI-Systems zu werten sind und in welchen Fällen Trainingsdaten vorliegen. Es folgt eine Darstellung der Qualitätsanforderungen an die KI-Entwicklungsdaten nach Art 10 KI-VO sowie ein kurzer Aufriss der datenschutzrechtlichen Anforderungen im Fall der Verarbeitung personenbezogener Daten durch das KI-Tool. |
09:30 | Risk Identification and Proactive Conflict Management in AI-Driven Care ABSTRACT. AI development affects various stakeholders, potentially leading to conflicts of interest—clashes between the interests of different parties. These conflicts can hinder the progress and deployment of AI systems. This study addresses the proactive management of conflicts of interest, aiming to prevent them. It advocates for the use of risk identification methods to achieve this goal. The approach is supported by elucidating the concepts of conflict of interest and risk, and exploring their interconnections. The paper then demonstrates the application of the risk identification methods to conflicts arising from the processing of personal data by AI systems in a care context. |
10:00 | An Interdisciplinary Approach to Adopting Generative Artificial Intelligence in Legal Practice ABSTRACT. This presentation provides an overview of an academic research project investigating the impact of generative artificial intelligence (genAI) and Large Language Models (LLMs) on the European legal industry. The central research question addresses the increasing interest from legal practitioners, law firms, and legal departments in adopting genAI (Strom, 2024). While these technologies are a prevalent topic among lawyers, the legal tech market is also experiencing rapid expansion, with new, domain-specific models for the legal sector (e.g., Harvey AI, Leya, CoCounsel, AnyLawyer) (Pierce, Goutos, 2023; Iqbal, 2023). However, the critical question remains: are such models genuinely beneficial for legal practice, and if so, in what ways? What are the main barriers to genAI adoption in legal practice, are they of legal or managerial nature? This study explores practical use cases where genAI and LLMs may add value for legal professionals, examining the benefits of their adoption alongside key challenges. For instance, while the most obvious advantage of genAI might be increased efficiency in time spent on legal tasks, the 'AI efficiency paradox' arises in the context of the billable hour pricing model (Palmer, 2024). In this scenario, the efficiency benefit might not seem essential. However, considering genAI as an always-available legal assistant could enhance the quality of legal work (Armour, Parnham, Sako, 2020) and in consequence attract more clients or justify higher fees over time. This, of course, requires risk-mitigation measures, such as ensuring high quality of implemented AI systems and thorough information verification (Villasenor, 2024). The benefits and challenges related to genAI adoption in legal work are truly interdisciplinary in nature. The example of efficiency gains versus the billable hour model indicates that genAI adoption is not only a legal question, yet also involves managerial considerations in running a legal practice. This interdisciplinary approach is at the heart of my research, which I aim to present at the Legal Informatics Symposium. Bibliography: Armour, J., Parnham, R., Sako, M. (2020). Augmented Lawyering, European Corporate Governance Institute - Law Working Paper 558/2020, https://papers.ssrn.com/sol3/papers.cfm ?abstract_id=3688896 Iqbal U. (2023). From Knowledge Management to Intelligence Engineering - A practical approach to building AI inside the law-firm using open-source Large Language Models, https://ceur-ws.org/Vol-3423/paper5.pdf Palmer M. (2024). The AI Revolution in Legal and the Billable Hour: Is the End Near?, https://www.2civility.org/the-ai-revolution-in-legal-and-the-billable-hour-is-the-end-near/ Pierce, N., Goutos, S. (2024), Why Lawyers Must Responsibly Embrace Generative AI, Berkeley Business Law Journal, Vol. 21, No. 2, https://papers.ssrn.com/sol3/papers.cfm?abstr act_id=4477704 Strom R. (2024). Law Firms Aren’t Behind the Generative AI Adoption Curve—Yet, https://news.bloomberglaw.com/business-and-practice/law-firms-arent-behind-the-generative-ai-adoption-curve-yet Villasenor J. (2024). Generative Artificial Intelligence and the Practice of Law: Impact, Opportunities, and Risks, Minnesota Journal of Law, Science and Technology, Volume 25, Issue 2, https://scholarship.law.umn.edu/cgi/viewcontent.cgi?article=1563&context=mjlst |
10:30 | Understudied and Crucial: Human-Computer Interaction in the Legal Domain ABSTRACT. Facing the increasing potential for malicious uses of AI, the transparency obligations introduced by the EU AI Act appear justified. However, the perception of AI-generated content plays a significant role in shaping its impact, an area that remains underexplored in the legal domain. Most existing research focuses on the accuracy and efficiency of AI for various tasks, often neglecting technology acceptance and human-computer interaction. This presentation aims to map current research within the legal field and beyond, proposing a research agenda to foster a more comprehensive understanding of AI's impact on law. |
09:00 | Präventive SBOM-gestützte Lizenzchecks nach ISO-Norm - Erfahrungsbericht und Praxismodell ABSTRACT. Der Beitrag behandelt den praktischen Umgang mit Open Source-Lizenzen im Alltag eines öffentlichen IT-Dienstleisters. Die Einhaltung der urheberrechtlichen Regeln wird dabei durch eine prozessgestützte Open-Source Lizenz-Compliance nach ISO/IEC 5230 unterstützt und ermöglicht. Gerade in einem öffentlichen Unternehmen ist es von Belang, auch bei der Verwendung von „kostenlosen“ Open Source-Modulen die Rechtmäßigkeit nachweisbar zu gewährleisten. Dazu dienen die Orientierung der Prozeduren an der ISO-Norm und ein entsprechendes Software-Qualitätsmanagement, das auf einen möglichen Complianceverstoß mit einer Build Failure reagiert. |
09:30 | Verbatim Memorisation in Language Models and EU Copyright Law ABSTRACT. Empirical studies suggest that - although technically not storing the raw training dataset - language models as statistical models assigning a probability to a sequence of words may be able to extract hundreds of verbatim text sequences from the model's training data. And thus if language models are trained on publicly available data, such data memorisation might lead to infringement of copyright and database rights. Recently adopted set of two exceptions from copyright and database protection for purposes of text and data mining introduced by the CDSM Directive could emerge as pivotal when aiming to justify use of publicly available data to train artificial intelligence. However, the applicability text and data mining exceptions is limited as to the purpose of generating new information as well as to the scope of permitted actions permitting solely reproduction or extraction of protected content. Although language models adopt additional measures to prevent data memorisation and dissemination of verbatim snippets - such as de-duplication or output filters – these measures might not be bulletproof, especially due to jailbreaking which may manipulate AI models into bypassing such measures. Question remains, is there a meaningful solution to preventing copyright infringe-ment while not hindering training of language models on publicly available data? |
10:00 | Haftung und Verantwortung bei Sicherheitslücken in Open Source Software PRESENTER: Katharina Bisset ABSTRACT. Open Source Software (OSS) ist das Rückgrat moderner IT-Architekturen und spielt eine zentrale Rolle in zahlreichen kommerziellen und nicht-kommerziellen Anwendungen. Bisher hat sich die Praxis etabliert, dass Integratoren und OSS-Anbieter durch Lizenzbedingungen oder allgemeine Haftungsausschlüsse das rechtliche Risiko minimieren konnten. Dies ermöglichte eine agile Nutzung und Integration von OSS und reduzierte gleichzeitig das Risiko für die Anbieter. Mit aktuellen Entwicklungen auf europäischer Ebene, wie dem Cyber Resilience Act und der neuen Produkthaftungsrichtlinie, ändert sich diese Risikolandschaft jedoch erheblich. Der Cyber Resilience Act sieht für sicherheitsrelevante Themen nur noch eine Ausnahme für OSS vor, wenn diese rein nicht-kommerziell genutzt wird. Für kommerzielle Anwendungen greift die Regelung hingegen vollumfänglich. Die Produkthaftungsrichtlinie definiert zudem Software als Produkt, was nicht nur umfangreiche Update-Pflichten nach sich zieht, sondern auch klare Haftungsszenarien schafft. Zudem bedingen die neuen Regelungen, dass man umfangreiche Dokumentationen benötigt, um nicht in Beweisproblematiken zu kommen. Inhalt und Zielsetzung: Der Vortrag wird die wesentlichen Änderungen der gesetzlichen Rahmenbedingungen für OSS-Haftung und -Verantwortung im Kontext von IT-Sicherheitslücken beleuchten. Anhand praxisnaher Beispiele werden wir untersuchen, welche Auswirkungen dies auf verschiedene Anspruchsgruppen haben könnte. Themen sind u.a.: • Welche Pflichten gibt es, wenn in OSS eine Sicherheitslücke entdeckt wird? • Rolle und Wirkung von Lizenzbedingungen – helfen sie wirklich, Haftung zu minimieren? • Überblick über Anspruchsgruppen und ihre Rechte: Produktanbieter, Endanwender und Dritte (z.B. von Sicherheitslücken betroffene Drittparteien). • Herausforderungen durch neue Bedrohungsszenarien, insbesondere im Kontext moderner Technologien wie Large Language Models (LLMs), die neue Angriffsvektoren schaffen können. • Der Unterschied in der Risikowahrnehmung zwischen freien Entwicklern, institutionellen Foundations und kommerziellen Anbietern. Erkenntnisgewinn: Teilnehmende werden ein klares Verständnis für die aktuellen Haftungsrisiken und neuen Verantwortlichkeiten im Umgang mit OSS erhalten. Sie gewinnen Einblicke, welche Vorsichtsmaßnahmen nunmehr notwendig sind, um rechtlichen Anforderungen gerecht zu werden, und wie sie sich vor potenziellen Haftungsansprüchen schützen können. Der Vortrag wird verdeutlichen, wie wichtig es ist, den rechtlichen Kontext von Open Source im kommerziellen Einsatz zu verstehen und welche präventiven Schritte erforderlich sind, um künftig das Risiko für Sicherheitslücken zu minimieren. |
09:00 | Leitlinien für KI in Parlamenten PRESENTER: Jörn von Lucke ABSTRACT. Parlamente setzen zunehmend auf digitale Werkzeuge und Dienste. Die Verbreitung von künstlicher Intelligenz (KI) wird diesen Trend voraussichtlich weiter beschleunigen und eine wichtige Rolle bei der digitalen Transformationen von Parlamenten von papiergestützten Organisationen in datengestützte Institutionen spielen und damit bisherige Paradigmen in Frage stellen. Aus diesem Grunde wurden von einer internationalen Gruppe parlamentarischer Wissenschaftler und Fachleute über einen Zeitraum von acht Monaten, von September 2023 bis April 2024, Leitlinien für KI in Parlamenten erstellt, die auf früheren Arbeiten in diesem Bereich aufbauen. Sie sollen auf die Einführung und Nutzung von KI in der parlamentarischen Arbeit vorbereiten. Die Leitlinien sind für lokale, regionale, nationale und supranationale Parlamente in einem Multi-Level-Governance-Kontext relevant. Bei der Erarbeitung wurde ein ganzheitlicher Ansatz verfolgt. Die Leitlinien beinhalten Ausführungen zu Ethik, Daten-schutz, Informationssicherheit, Aufsicht, Systemgestaltung und Bildung. Sie befassen sich mit spezifischen Aspekten des Einsatzes von KI in Parlamenten, einschließlich Anmerkungen zum Umfang, zu Beispielen und zu Faktoren, die für eine erfolgreiche Umsetzung entscheidend sind. Dadurch sind sie sowohl für die Behandlung aktueller Fragen als auch für die Beurtei-lung eher theoretischer Fragen von Nutzen, wie zum Beispiel die Auswirkungen Künstlicher Allgemeiner Intelligenz (KAI) auf die Gesetzgebung. Die Leitlinien, deren Übersetzung in deutscher Sprache bis zur IRIS 2025 vorliegt, sollen in einem Beitrag/Vortrag vorgestellt werden. Darauf aufbauend, ist an eine Diskussion über KI in Parlamenten, mögliche Grenzen und eine Übertragung einzelner Leitlinien auf deutschsprachige Parlamente gedacht. |
09:30 | KI als potentielles Werkzeug im Gesetzgebungsprozess ABSTRACT. Der Beitrag zeigt auf, wie KI im Gesetzgebungsprozess zur Unterstützung eingesetzt werden kann, um spätere Schwierigkeiten bei der Rechtsanwendung zu antizipieren und zu minimieren. Durch eine KI-gestützte Risikoabschätzung sollen handwerkliche Fehler, z. B. sprachliche Ungenauigkeiten, in Gesetzesentwürfen rechtzeitig erkannt und behoben werden. Ziel ist es, den Umsetzungsaufwand rechtlicher Vorgaben zu senken und rechtliche Unschärfen, die bisher durch die Rechtsprechung geklärt werden müssen, so weit wie möglich zu vermeiden. Darüber hinaus soll die KI dabei unterstützen, dass Gesetze einfacher digital umgesetzt werden können. Bei der Entwicklung dieses Vorhabens sollen insbesondere die Erfahrungswerte des Föderalen Informationsmanagements (FIM) zur Harmonisierung des Vollzugs von Verwaltungsleistungen in Deutschland mitberücksichtigt werden. Die Dokumentation aus FIM und die Metadaten von öffentlich zugänglichen Registern sollen als Wissensbasis für die KI nachgenutzt werden. |
10:00 | Privatisierung der Rechtsetzung: Der AI Act als Auftakt zur standardisierten 08/15-KI? ABSTRACT. Für KI-Systeme die mit (privat erstellten) harmonisierten Normen übereinstimmen, wird eine Konformität mit der KI-Verordnung vermutet (Art 40 KI-VO). Ausgearbeitet werden diese harmonisierten Normen im Rahmen eines „Mandats“, das die Kommission den europäischen Normungsorganisationen (CEN, CENELEC und ETSI) erteilt. Vielfach wird davon ausgegangen, dass diese Normen „faktische Verbindlichkeit“ entfalten würden und der EuGH sprach sogar aus sie seien „Teil des Unionsrechts“. Dahinter steht eine für das Technikrecht typische Verflechtung bzw „Abhängigkeit“ von privatem Sachverstand. Hierdurch verschiebt sich die Festlegung der inhaltlich konkret gesollten Anforderungen vom demokratisch legitimierten Gesetzgeber hin zu Experten. An die Stelle rechtspolitischer Entscheidungen durch den verfassungssystematisch vorgesehenen Gesetzgeber tritt ein prozedurales Recht, das auf inhaltliche Vorgaben weitgehend verzichtet bzw bloß „grundlegende Anforderungen“ vorgibt um Technologieneutralität zu gewährleisten. Das Recht übernimmt damit nur mehr eine indirekt steuernde Funktion und bemüht sich um die Herstellung einer „Spielregelordnung“. Droht eine Entstaatlichung des Rechts? |
09:00 | Legislating for the European Health Data Space: considering trust in health records in multinational settings and research on economic data related to healthcare as selected problems of primary and secondary use ABSTRACT. The European Commission tries to accelerate the integration and homogenisation of electronic health records with a regulation establishing the European Health Data Space. Once approved, this framework shall ease the resort to existing health records in cross-border healthcare (primary use) and reuse them in biomedical research and development (secondary use). Unsurprisingly, this techno-optimism faces considering personal data as an identity issue. Moreover, establishing this requires completing health informatics on the national level. Several issues deserve clarification. The contribution focuses on trust in sometimes incomplete, outdated and misleading health records in multilingual settings in medical practice and on accompanying economic data. One should also consider deploying artificial intelligence, among others, in completing patient summaries. |
09:30 | THE IMPACT OF “AI ACT” ON THE TWOFOLD DANGEROUS NATURE OF BIOBANKS - DRAFT PRESENTER: Leijla Malici ABSTRACT. Despite their growing relevance in biomedical research, specifically in precision medicine, biobanks still raise ethical, legal, and societal issues, mainly related to the definition of their purposes, ownership of biological materials, and protection of associated data. Biobanks are key instruments in advancing scientific research by providing access to large amounts of biological samples and associated data. The peculiar two-fold status of the samples generates uncertainty, primarily regarding ownership and custodianship. Moreover, the informed consent process presents significant challenges regarding the different uses of the samples and the difficulty of adequately informing donors about it, potentially undermining their fundamental rights. With the advent of AI, new challenges have arisen concerning the exploitation of not only single donors but also patient rights. In this contribution, we aim to address the main concerns related to the implementation of AI technologies in biobanking, focusing on balancing involved healthcare, public and private interests, and individual rights |
10:00 | REGULATING THE HEALTH DATA SPACE - SOME ELEMENTARY QUESTIONS ABSTRACT. In the context of the European Union, we are used to talking about different kinds of infor-mation spaces. The basic idea is that the freedom of movement of the individual has been complemented by the freedom of movement of data and information. One of the new Europe-an spaces is the space for the movement of health data. Here we are dealing both with the transfer of sensitive personal data and, above all, with quality assurance. The transfer of an individual's health data from one scientific environment to another is an exceptionally de-manding operation. It is not only a question of ensuring the technological path of information as such. And the more general transfer of care data is also a very demanding transfer of da-ta. That is why the EU wants strict rules on the use of anonymised or pseudonymised health data for research, innovation and decision-making too. Regulation of the information space for health data is a broad issue. It has been described as the first thematic regulation of the data and information space in accordance with the EU data strategy. We are witnessing an extremely important stage of social development in terms of human dignity, one involving many tensions. For example, there has been and still is an undeniable conflict of values and objectives between our right to self-determination and the various re-uses of medical data.. Equally, data security needs to be highlighted in a new way in this context. In this brief presentation I will focus on the vital aspects of the transferability of data and information on the quality of care. This is, as I understand it, the necessary starting point for a new, com-prehensive set of regulations. The internationalisation of healthcare has made good progress on the linguistic level, but there is still work to be done to harmonise essential treatment in-formation. AI could give this a new impetus |
11:00 | Mapping Compliance: A Taxonomy for Political Content Analysis under the EU's Digital Electoral Framework PRESENTER: Marie-Therese Sekwenz ABSTRACT. The rise of digital platforms has transformed political campaigning, introducing complex regulatory challenges for transparency, content moderation, and the targeting of political advertisements. This paper presents a comprehensive taxonomy for analyzing political content in the EU’s digital electoral landscape, aligning with the requirements set forth in the Digital Services Act (DSA), the Transparency and Targeting of Political Advertising Regulation (TTPA), and the Commission’s Guidelines on the Mitigation of Systemic Risks for Electoral Processes (G-E–DSA). Using a legal doctrinal methodology, we construct a detailed codebook that enables systematic content analysis across user-generated and political ad content to assess compliance with regulatory mandates, including systemic risk identification, ad repository transparency, and sponsor disclosure requirements. Our taxonomy, grounded in legal provisions, is applied empirically through a sample-based annotation process on Very Large Online Platforms (VLOPs), evaluating the adherence of platforms to transparency and electoral integrity obligations. By bridging legal analysis with empirical methodology, this study contributes to the field of digital electoral regulation, providing a robust framework to guide platforms, advertisers, regulators, and auditors in navigating the EU’s evolving digital political landscape. |
11:30 | PRESENTATION: THE SELF-DRIVING STATE: AUTOMATED DECISION-MAKING IN MODERN GOVERNANCE ABSTRACT. This presentation explores the concept of the "Self-Driving State" a transformative vision for future governance that leverages digital technology and artificial intelligence to automate state functions. It examines how Legal Digital Twins (digital representations of legislative texts) can be integrated into legislative, executive, and judicial structures to enable efficient, automated administrative processes. The Self-Driving State framework holds potential for enhancing transparency, accountability, and efficiency in governance. A case study on Austrian tax law demonstrates practical applications, providing insight into the implications of Self-Driving State for modern governance. |
11:00 | [PANEL] KI im Recht: Optimierung durch Logik und Argumentationstheorie? PRESENTER: Diogo Sasdelli ABSTRACT. (English below) Das Panel widmet sich der kritischen Auseinandersetzung mit der Rolle von Rechtslogik und Argumentationstheorie in der Entwicklung und Anwendung von KI-Technologien im juristischen Bereich. Die Rechtsinformatik, tief verwurzelt in der Rechtslogik, hat im Laufe der Zeit auf theoretischer Ebene einen starken Bezug zur formalen Logik und argumentationstheoretischen Ansätzen entwickelt. Dennoch bleibt der konkrete Nutzen dieser Methoden bei der Umsetzung in praktische Legal-Tech-Anwendungen oft unklar und umstritten. Das Panel zielt darauf ab, die Potenziale und Grenzen der Einbindung von logischen und argumentationstheoretischen Konzepten in KI-gestützte Rechtssysteme zu beleuchten. Im Mittelpunkt steht die Frage, ob und inwiefern diese theoretischen Ansätze zur Optimierung von KI-Anwendungen im Recht beitragen können und welche Herausforderungen dabei auftreten. Dabei soll geklärt werden, ob eine verstärkte Integration von Rechtslogik und Argumentationstheorie zu präziseren, nachvollziehbareren und somit allgemein besseren KI-basierten Legal-Tech-Anwendungen führen kann. The panel is dedicated to a critical examination of the role of legal logic and argumentation theory in the development and application of AI technologies in the legal field. Legal informatics, deeply rooted in legal logic, has over time developed a strong theoretical connection to formal logic and argumentation theory approaches. Nevertheless, the concrete benefits of these methods when implemented in practical legal tech applications often remain unclear and controversial. The panel aims to shed light on the potentials and limitations of integrating logical and argumentation-theoretical concepts into AI-supported legal systems. The focus is on the question of whether and to what extent these theoretical approaches can contribute to the optimisation of AI applications in law and what challenges arise in the process. The aim is to clarify whether a stronger integration of legal logic and argumentation theory can lead to more precise, more comprehensible and thus generally better AI-based legal tech applications. Speakers: (wird später ergänzt) |
11:00 | Optimizing Clinical Pathways with Federated Data PRESENTER: Tim Müller ABSTRACT. Clinical pathways are currently difficult to optimize due to data distribution across organizations with a diverse IT-landscape and limitations caused by rules and regulations. In this paper we describe a federated approach that can significantly reduce the efforts required to overcome these obstacles. First, we describe a standard conceptual workflow for optimizing clinical pathways, including all steps and involved stakeholders. This is followed by a translation of the workflow into a real-world scenario with an associated proof of principle to demonstrate how the scenario can be implemented on top of a federated framework. The proof of principle includes practical details on safe statistics and synthetic data generation in a federated environment. We present the most important results and conclude with an overview of the benefits for each of the stakeholders. We also evaluate what is needed to turn our proof of principle into operation. Our most important outcomes are: the federated approach offers significant benefits for all relevant stakeholders and has little downsides. A policy-driven framework with embedded policy enforcement is crucial for successful adoption of a federated approach. Integration of safe statistics and synthetic data generation in a federated framework is straightforward and offers additional benefits, especially when setting up healthcare consortia. This solution is almost ready to be adopted by healthcare organizations as part of their regular operations. |
11:30 | Zur Verarbeitung von "Gesundheitsdaten" in der jüngeren Rechtsprechung des EuGH ABSTRACT. Der EuGH hat in einer aktuellen Entscheidung (4. Oktober 2024 - C-21/23 -Lindenapotheke) festgestellt, dass selbst grundlegende Informationen über Standardarzneimittel Aufschluss über die Gesundheit des Kunden geben können und daher Daten einer besonderen Kategorie im Sinne von Artikel 9 DSGVO darstellen. Dies hat erhebliche Auswirkungen auf die Verarbeitung solcher Daten in der Praxis (wie im Anlassfall einer Online-Apotheke). Die Entscheidung wird im Vortrag kritisch gewürdigt und analysiert. |