IRIS24: INTERNATIONALES RECHTSINFORMATIK SYMPOSION 2024
PROGRAM FOR FRIDAY, FEBRUARY 16TH
Days:
previous day
next day
all days

View: session overviewtalk overview

09:00-10:30 Session 9A: Data Governance, Privacy & Datenschutz/Data Protection IV
09:00
Der Datenhaufen und der Ingenieur

ABSTRACT. Wenn man die Literatur zu "Ownership of Data" recherchiert, stößt man bald bei Daten und Datenbanken auf Begriffe wie "Datenhaufen" oder der Forderung nach "systematisch oder methodisch angeordnet" und "einzeln zugänglich". Zusammenhänge wie "ein Abfrageinstrument ist eine Datenbank", Maschinendaten vs. Rohdaten u.v.m. erscheinen aufklärungsbedürftig. Weder Rohdaten noch Sensoren entstehen durch Zufall. Als Wirtschaftsrecht studierender Ingenieur empfindet man das Bedürfnis, mit klärenden Worten zur kreativen Ingenieurleistung vielleicht etwas zum besseren gegenseitigen Verständnis zwischen Jus und Technik beizutragen.

09:30
Transparente Einschau: Informationspflichten bei Abfragen öffentlicher Bücher

ABSTRACT. Öffentliche Bücher stellen eine unabdingbare Datenbasis für die effektive Verwaltung und Vermittlung von Immobilien. Da damit verbundene Datenverarbeitungen oftmals nicht in einer Kontaktaufnahme münden, stehen Verantwortliche vor der Frage, wie datenschutzrechtlichen Informationspflichten nachzukommen ist. Im Beitrag soll die Informationspflicht nach Art 14 DSGVO mit Bezug auf öffentlich zugängliche Quellen als Datenherkunft näher beleuchtet werden, wobei ein Schwerpunkt auf die Darlegung der Schutzwürdigkeit veröffentlichter Daten und einschlägige Ausnahmeregelungen zur betreffenden Informationspflicht gelegt wird.

10:00
Neuere Entwicklungen im schweizerischen Datenschutzrecht zu M365 und Clouddiensten

ABSTRACT. Sowohl der Bund als auch die Kantone in der Schweiz evaluieren seit geraumer Zeit den "Gang in die Cloud" mit der M365-Suite von Microsoft und dessen Vereinbarkeit mit dem schweizerischen Datenschutzrecht. In diesem Zusammenhang sind mehrere Rechtsgutachten erstellt worden (disclaimer: u.a. auch unter Mitarbeit des Vortragenden), die teilweise zu unterschiedlichen Ergebnissen gelangt sind. Der Vortrag fasst den Stand der Diskussion zusammen und beleuchtet die wichtigsten Aspekte der neueren Rechtsentwicklung in diesem Bereich.

09:00-10:30 Session 9B: E-Justice I
09:00
THE SPACE OF POSSIBLE E-JUSTICE PROCESSES

ABSTRACT. This paper outlines an idea of a space of possible e-justice processes. Such a space results from combinations of elements that describe such processes. The awareness of the possible combinations of these elements is essential for designing online courts and public and private ODR platforms. The point of departure for the investigations is that the general structure of justice processes, shaped in the 19th century and extended and modified in the 20th century with the rise of ADR methods, still represents a small fraction of the possible solutions in this area. Most of the possible solutions have not been deliberated earlier due to the constraints related to limited resources, traditional institutional settings and insufficient technological solutions. However, with the rapid development of new technologies, including Large Language Models, which facilitate numerous activities in the justice processes, additional possibilities should be considered seriously.

09:30
Wer bin ich? Sichere Identifikation bei Videoverhandlungen
PRESENTER: Christoph Sorge

ABSTRACT. Der deutsche Gesetzgeber hat mit § 128a der Zivilprozessordnung und Parallelnormen in anderen Prozessordnungen die Möglichkeit zur digitalen Teilnahme an Gerichtsverhandlungen mit Hilfe von Videokonferenztechnik geschaffen – sowohl für „die Parteien, ihre Bevollmächtigten und Beistände“, die von einem anderen Ort als dem Gericht aus auch Verfahrenshandlungen vornehmen können (§ 128a Abs. 1 ZPO), als auch für die Vernehmung von Zeugen, Sachverständigen und Parteien (§ 128a Abs. 2 ZPO). Von dieser Möglichkeit wird seit der Corona-Pandemie auch vielfältig Gebrauch gemacht. Bei fortschreitender Digitalisierung könnte künftig gar das gesamte Verfahren virtuell gestaltet werden. So könnte bereits die Rechtsantragsstelle, die an deutschen Gerichten durch Bereitstellung von Rechtsinformationen und Unterstützung bei der Klageerhebung einen niedrigschwelligen Justizzugang gewährt, digital eingerichtet werden. Bislang fehlt allerdings eine Möglichkeit, die Identität der so zugeschalteten Personen sicher festzustellen. Zwar wird sich das Problem, gerade im Zivilprozess, in vielen Konstellationen nicht stellen. Doch ist das Vortäuschen einer anderen Identität über eine Videoverbindung einerseits einfacher als vor Ort, da etwa digitale Verfälschungen (z.B. sogenannte Deep Fakes) bereits ein hohes Qualitätsniveau erreicht haben. Andererseits könnte die fehlende physische Nähe auch die Hemmschwelle für solche Fälschungsversuche reduzieren. Zu bemerken ist zudem, dass ein Verfahren zur sicheren digitalen Identifizierung auch gewinnbringend sein kann, wenn es nur in einem Teil der durchgeführten Gerichtsverhandlungen mit Video-Zuschaltung eingesetzt wird. Mit dem elektronischen Personalausweis (sowie dem technisch sehr ähnlichen elektronischen Aufenthaltstitel) steht in Deutschland ein sicheres Instrument für den Online-Identitätsnachweis zur Verfügung. Sichergestellt werden kann so zunächst, dass der zugeschalteten Person Ausweis und PIN der Person vorliegen, mit der das Gericht zu kommunizieren glaubt. Dieser Nachweis ist bereits zuverlässiger als die klassische Videoidentifikation, bei der ein Ausweis lediglich vor die Kamera gehalten wird. Die Weitergabe von Ausweis und PIN stellt zwar ein Risiko für den Ausweisinhaber dar, ist aber dennoch nicht zu verhindern. Aus technischer Sicht ist es jedoch zudem möglich, das Lichtbild der betreffenden Person aus dem Ausweis auszulesen und mit der über die Videoverbindung sichtbaren Person abzugleichen. § 16c des Beurkundungsgesetzes sieht dies für die Identifikation durch Notare bereits vor; für die Gerichte fehlt eine entsprechende rechtliche Möglichkeit bislang. Der Vortrag wird erörtern, ob die Schaffung einer parallelen Norm für die Identifikation von Verfahrensbeteiligten, Zeugen und Sachverständige sowie Rechtssuchenden durch Gerichte zielführend wäre und welche Risiken, etwa durch Deep Fakes, auch dann noch verbleiben würden.

10:00
ODR and Online courts: what is their future after AI Act

ABSTRACT. Online Dispute Resolution (ODR) is characterized by the use of technological means, which makes ODR platforms beneficial compared to standard courts and dispute resolution methods. Any regulation of technical means has an impact on the use and possibilities of ODR, especially when such regulation directly references usage in judicial settings. The proposed AI Act aims to regulate any use of specified AI technologies in situations that could potentially impact fundamental rights, with specific emphasis on the right to a fair trial. The article analyzes the implications of the AI Act on the usage of such technologies in ODR processes, whether and to what capacity they are permissible, based on the categories proposed by the AI Act. The article also analyzes other aspects of ODR processes that could have implications for fundamental rights but are either out of scope of the AI Act or are overlooked by it.

09:00-10:30 Session 9C: Cybersecurity, Cybercrime & Digital Evidence I
09:00
The upcoming Network Code on Cybersecurity and its impact on resilience of the European energy sector

ABSTRACT. The cybersecurity challenges in the European energy sector have significant cross-border element that needs to be reflected in the collaboration and coordination on obligations and rules applicable to the system operators. The rules for transmission system operators are developed by European Network of Transmission System Operators for Electricity (ENTSO-E). In early 2024, new transformative rule book for cross-border cybersecurity will be established through the upcoming Network Code on Cybersecurity (NCCS). In our contribution, we introduce the NCCS, procedure leading to its adoption, core concepts, main provision and likely impact. Subsequently, we discuss in detail its expected benefits and weaknesses as well as suitable future progress in line with the development of robust and resilient European energy infrastructure with regard to cybersecurity.

09:30
Cybersecurity Work Force Scarcity - Use Case Czechia: Lessons Learned, Lessons to Be Learned
PRESENTER: Pavel Loutocký

ABSTRACT. In the long term, it is essential to ensure a sufficient number of well-educated and expert professionals for various positions in the field of cybersecurity with a high level of specific knowledge and skills. In this article, we present the situation and approach chosen in Czechia, which could serve as a potential inspiration abroad based on the experience gained. We analyze the current situation, problems and possibilities of mitigation by using cybersecurity qualification frameworks (specifically, the Czech one). Finally, we summarize specific recommendations that could serve as broader inspiration on how to mitigate the problem of expert workforce scarcity.

10:00
Challenges for LEAs in 5G environment
PRESENTER: Michael Batrla

ABSTRACT. The advent of 5G network standards is ushering in a new era of unprecedented connectivity advancements, such as increased transmission speed and capacity, decreased latency and enhanced security and privacy. However, this technology also brings forth many challenges for law enforcement agencies worldwide. This research article delves into the critical problems faced by law enforcement agencies in the context of 5G (SA) networks.

The paper aims to examine the unique characteristics of 5G networks. Subsequently, it analyses how these features pose hurdles for law enforcement in terms of surveillance, interception and data collection. These challenges range from enhanced subscriber security and privacy, such as temporal identifiers, and impacts on cell site simulators, timing aspects and t-synchronization between operators and LEAs, to edge computing or private, campus networks.

In addition to challenges, 5G standards can provide some advantages to LEAs, such as enhanced geolocation tracking, however these are not without legal and policy issues surrounding 5G networks interception. The complexities of cross-border data access and privacy protection create jurisdictional dilemmas for law enforcement, requiring innovative approaches to international cooperation.

(The research has received funding from the European Union's Horizon 2020 Research and Innovation Programme under grant agreement no. 101073795)

09:00-10:30 Session 9D: AI & Law / KI & Recht I
09:00
Automated Examples Computation for Legal Research

ABSTRACT. In the last decades, tools for helping with legal research over case law have improved the ability of legal professionals to find relevant cases. Nevertheless, the process still depends on keywords search, of an analysis of the returned cases and is still beyond the reach of laymen. In this paper, we introduce another approach for legal research, which is based on pre-computing negative and positive examples of court rulings with regards to legal concepts.

09:30
FORMALISATION MEMORIES: TOWARDS A PATTERN APPROACH TO LEGAL DESIGN

ABSTRACT. The paper brings together ideas from translation studies, software design, architecture and legal theory to propose a new approach to the way in which computational models of the law can be deployed for AI safety. With the proliferation of AI-based autonomous systems, ensuring their law compliance has become a challenge for lawyers and developers alike. One approach to overcoming the “black box” problem are neurosymbolic systems, a combination of machine learning with “Good old fashioned’ AI”. While highly intuitive, this approach faces a number of problems. Formalisation memories, a combination of translation memories with pattern design, could be a way to address some of the re-sulting issues.

10:00
ETHICAL IMPLICATIONS OF AI-POWERED CHATBOTS CONSIDERATIONS FOR THE AI ACT: A CASE STUDY OF TESSA

ABSTRACT. The use of Artificial Intelligence (AI), including the use of chatbots, is common and prevalence is expected to continue to rise. This paper delves into the creation and deployment of a chatbot named Tessa. Tessa was intended to aid users’ self-assessment of symptoms indicative of eating disorders and guide them towards relevant support services. The chatbot was designed to help ease strain on overburdened healthcare staff and offer support for individuals who may face significant delays in being able to access an in-person medical consultation. Unfortunately, despite a promising start, a recent incident with Tessa demonstrated how chatbots can go wrong. This paper analyses the incident from technical, psychological, and legal viewpoints, with a specific focus on key considerations around responsibility and safeguarding of chatbots within the health domain and the AI Act. This paper contributes to the ongoing discourse on the implications of AI-driven healthcare interventions, fostering a critical dialogue for future developments in this evolving landscape. We support the idea of regular assessments of AI interventions, improved regulation, and more stringent consideration of ethical and safeguarding issues.

09:00-10:30 Session 9E: Panel: Gemeinsames Brainstorming für eine digitale Zeitenwende der Staatsmodernisierung

Ergänzend zur Zeitenwende brauchen wir in Deutschland dringend auch eine digitale Zeitenwende zur Staatsmodernisierung, um unsere Freiheit, unsere Demokratie und unseren Wohlstand zu sichern. Wir brauchen einen wirksamen Ruck. Die Welt ist bereits nicht mehr dieselbe. Sie verändert sich durch Dekarbonisierung, Demographie und Digitalisierung weiter rasant. Für eine ernsthafte digitale Zeitenwende werden überzeugende Leitbilder zur digitalen Transformation des Staates, ambitionierte Ziele und passende Maßnahmen benötigt. Public Management, Portale, ebenenübergreifende Shared Services, Prozessmanagement, Datenräume und künstliche Intelligenz führen zusammen zu neuen Zielbildern wie etwa einer selbstfahrenden Verwaltung, in der Daten digital vorliegen und Prozesse wie verlässliche Entscheidungen überwiegend automatisiert getroffen werden können. In einem XLeap-basierten Brainstorming-Workshop sollen konstruktive Vorschläge für eine Digitale Zeitenwende zusammengetragen, diskutiert und konkretisiert werden, um diese in Deutschland und gerne auch in anderen Staaten Wirklichkeit werden zu lassen. Der Mehrwert liegt in der gemeinsamen Diskussion, im Austausch und im kollektiven Ergebnis. Alle Teilnehmer erhalten zum Abschluss der Sitzung das gemeinsame Gruppenergebnis vom Moderator als digitales Dokument zugesandt.

11:00-12:30 Session 10A: Data Governance, Privacy & Datenschutz/Data Protection V
11:00
!!!CANCELLED, SORRY!!! Scraping Protected Content for AI Training Purposes: AI as Unprecedented Genius or Copyright Infringer?

ABSTRACT. Developing artificial intelligence requires analysis of massive amounts of data whereas the internet and social media may provide valuable resources of such training data. Nevertheless, publicly available data may be protected by copyright or database law potentially preventing their further use. Rightsholders in the USA already started the avalanche of legal disputes against big AI tech-companies (see for example chatgptiseatingtheworld.com). As the Economist recently aptly pointed out in its article addressing copyright and AI, “it is the oceans of copyrighted data the bots have siphoned up while being trained to create humanlike content” while “often, it is alleged, AI models plunder the databases without permissions”. The information needed to train AI may come from all corners of the internet: online databases, content sharing platforms, music and video platforms, news sites, social media, private websites, digital libraries, stock images databases, television or radio websites, etc. In the USA, lawsuits based on infringements of intellectual property rights in connection with building AI models are already on the rise. Mark Lemley and Bryan Casey in the Texas Law Review even noted that this may well be one of the most important legal questions of the coming century: Will copyright law allow robots to learn?

In times of upcoming representative actions regulations, it is a question of time before such lawsuit start to appear in the EU as well. Notably, the EU recently introduced a new exception to copyright and database protection allowing the reproduction of protected content for purposes of text and data mining which could serve as a legal ground for legitimate use of such protected content. This novel exception could pave the way for legally using IP-protected content for AI training purposes. Nevertheless, the text and data mining exception under Article 4 has been subject to criticism for its alleged impracticability, specifically due to the opt-out right enabling rights-holders to reserve their rights by machine-readable means. Art. 4 of the CDSM Directive contains an opt-out provision for rightsholders enabling rightsholders to exclude their copyrighted works from the scope of Art. 4 of the CDSM Directive by “expressly reserving their rights in an appropriate manner”. In the case of content published online, the reservation must be made using machine-readable means. According to Recital 18 of the CDSM Directive, such machine-readable means may include “metadata and terms and conditions of a website or a service”. Such machine-readable means will include in particular technical restrictions and disallow commands ; but they may also include reservations made via a website’s terms of use provided they are in a machine-readable format.

The rightsholder’s reservation could be the Achilles heel of the TDM exception. Such an opt-out right could be used by the rightsholders to en bloc restrict the reuse of their publicly available data, which would be of crucial importance for the practical relevance of text and data mining exceptions in the online world. Nevertheless, the true impacts depend on the practical implications of implementation of such reservation as the implementation of contractual and/or technical restrictions has its downsides affecting the rightsholders decision whether or not to implement such restriction.

Mostly cited method of expressing such a reservation within the meaning of Article 4 CDSM Directive is Robots.xt: a a simple text file containing rules on which crawlers may access which parts of a site. Robots.txt is based on voluntary basis meaning it does not technically block the automated access, but merely express the rules for access introduced by the given website. Robots.txt consists of set of rules stipulating the following information: (i) to whom the rule applies (the “user agent”); (ii) which directories or files that agent can access; and (iii) which directories or files that agent cannot access. Therefore, Robots.txt differentiates specific terms for selected users (in the “User-agent” line of the Robots.txt) and URLS which may or may not be accessed (in the “Disallow/Allow” line of the Robots.txt). The default rule generally is that a user agent can crawl any page or directory not blocked by a disallow rule. By generally blocking all automated access via robots.txt, such website could prevent Google and similar search engines from accessing and indexing the given website or could negatively impact how such website appears in search results in search engines, which considering the functioning of the internet might an undesirable scenario. But, the “User-agent” line of Robots.txt allows to apply different reservation on various users (e. g. by allowing Google to crawl and index a website and prohibiting specific crawlers to scrape the website). The rightsholder may choose a “whitelist” of crawlers who may access the site or vice versa a “blacklist” of crawlers who may not access the site. Such approach could be a reasonable solution for rights holders but requires knowing the list of whitelisted or blacklisted users and also knowing how to specifically identify such users in the “User-agent” line (in order to establish the machine-readability of the information for potential bots accessing such Robots.txt). In addition, there are numerous further practical constrains associated with proper implementation and proper decoding of Robots.txt.

Interestingly, key market players already introduced certain recommendations on how rightsholders could adjust their Robots.txt or even proposed development of new technologies enabling to effectively express such reservation. But current state of technology may be practically hindering effective use of such exception.

Practical implications such as machine-readability of terms of use, available guidance, case law or standardization addressing scraping available across the EU as well as Robots.txt analysis will be among the discussed topics to answer the underlying question as to which extent can the TDM exception serve as a legal basis for use of protected content for purposes of AI training?

11:30
Data Governance in Data Spaces

ABSTRACT. Over the last decades digital technologies have transformed all sectors of the economy, administration and daily life. Data is at the centre of that transformation and data-driven innovation is expected to bring benefits to both citizens and the economy. To stimulate data exchange, data-based innovation and the data market in the European Union the aforementioned was and is active – especially in a regulative way. To name just a few: General Data Protection Regulation (GDPR), Data Governance Act (DGA), Data Act (DA), AI Act, Digital Services Act and Digital Markets Act. In its communication of 19 February 2020 on a European strategy for data the Commission described the vision of a common European data space - an internal market for data in which data could be used irrespective of its physical storage location in the Union in compliance with applicable law. This paper provides an overview of the current development of such data spaces. With regard to the legal acts that govern them, the focus lies on the Data Governance Act, which has been in force since September 2023. In this context, important questions revolve around the matter of services covered by this act and obligations of data intermediation services providers.

12:00
From Code to Choice: Assessing Personalized Content as Automated Decision-Making

ABSTRACT. The consumer online experience has been significantly shaped by data-driven technologies over the years. Artificial intelligence, which tailors content to what it believes we want to see, could potentially pose a threat to our freedom of choice and access to information. In my work, I assess the relevance of Article 22 of the GDPR in the context of delivering personalized content. The primary challenges are as follows:

1. The application of the GDPR itself, as personalized content might be offered based on group interests without further individual identification.

2. The examination of which rights of data subjects could potentially be violated by personalized content and whether these violations meet the intensity criteria set out in Article 22 of the GDPR.

3. The determination of whether personalized content can be classified as automated decision-making under the GDPR.

12:30
Herausforderungen der Umsetzung der DSGVO in der Praxis

ABSTRACT. Folgt.

11:00-12:30 Session 10B: E-Justice II (E-Justiz in Österreich)
11:00
Online-Services (Sichere Kommunikation und Digitale Signatur) des ÖRAK (online)
PRESENTER: Alma Steger

ABSTRACT. 1./ Digitale Signatur-Tool: Die qualifizierte elektronische Signatur erfüllt das rechtliche Erfordernis der Schriftlichkeit iSd § 886 ABGB (§ 4 Abs 1 SVG). Damit ist (fast) jede Erklärung, die zu unterfertigen ist, und jede Vereinbarung, bei der die Parteien Unterschriften vorsehen, auch ein Use Case für die elektronische Signatur. Der ÖRAK hat dies zum Anlass genommen, gemeinsam mit einem Projektpartner eine für Rechtsanwältinnen und Rechtsanwälte maßgeschneiderte Lösung zur Steuerung digitaler Signaturprozesse aufzusetzen. Für die österreichische Anwaltschaft geht es dabei um mehr, als selbst digital signieren zu können. Vielmehr brauchte es eine Lösung, mit der die österreichischen Rechtsanwältinnen und Rechtsanwälte digitale Unterschriftsprozesse für ihre Klientinnen und Klienten unabhängig von deren Aufenthaltsort effizient und sicher digital steuern können. Das Tool bietet die Möglichkeit, Dokumente selbst digital zu signieren und/oder Dritte zum Signieren einzuladen. 2./ Vertrauliche Kommunikationsplattform: Die DSGVO und das Berufsrecht stellen hohe Anforderungen an die Rechtsanwaltschaft in Bezug auf Datensicherheit. Im Schriftverkehr mit den Klienten und Klientinnen erfüllt die E-Mail diese Ansprüche schon lange nicht mehr. Der ÖRAK hat deshalb gemeinsam mit mehreren Projektpartnern die Kommunikationsplattform context entwickelt, über die ein vertraulicher Dialog zwischen Rechtsanwälten und ihren Klienten und Klientinnen unkompliziert möglich wird. Ganz einfach, eingebunden in die Anwalts-Software und seit kurzem auch als Outlook-Plugin.

11:30
Update zu JustizOnline & Elektronischer Rechtsverkehr

ABSTRACT. JustizOnline ist die digitale Informations- und Serviceplattform der österreichischen Justiz. Sie bietet Bürger:innen, Unternehmen und Körperschaften sowie ausgewählten justiznahen Berufsgruppen durch zeitgemäße digitale Services einen einfachen Zugang zur Justiz – ortsunabhängig und rund um die Uhr. JustizOnline umfasst aktuell unter anderem die Möglichkeit der einfachen Einbringung von Eingaben auf digitalem Weg und die elektronische Akteneinsicht in eigene Verfahren einschließlich einer Verfahrensstandabfrage. JustizOnline wird seit dem Launch im November 2020 kontinuierlich ausgebaut und um neue Services erweitert.

 

Im Bereich des seit Jahrzehnten etablierten elektronischen Rechtsverkehrs (ERV) wurden im Laufe des letzten Jahres wesentliche Erweiterungen umgesetzt. Diese Erweiterungen betreffen sowohl den klassischen ERV hinsichtlich Dateigröße und Dateiformate als auch die Funktionalitäten und Informationen in der elektronischen Akteneinsicht, wodurch den professionellen ERV-Anwender:innen neue Möglichkeiten in der Zusammenarbeit mit der österreichischen Justiz geboten werden.

 

12:00
Neues aus der EU e-Justice

ABSTRACT. Mit der Ende Dezember 2023 in Kraft getretenen Verordnung zur Digitalisierung der grenzüberschreitenden justiziellen Zusammenarbeit in der EU und den Zugang zur Justiz in Zivil-, Handels- und Strafsachen, (EU) 2023/2843, wird das Ziel verfolgt, digitale Kommunikationskanäle zum Standardkanal für grenzüberschreitende Gerichtsverfahren zu machen. Damit sollen Ineffizienzen, die die grenzüberschreitende justizielle Zusammenarbeit beeinträchtigen, und Hindernisse für den Zugang zur Justiz in grenzüberschreitenden Zivil-, Handels- und Strafsachen, beseitigt werden. Neben der Darstellung des Inhalts werden auch die notwendigen technischen Umsetzungsmaßnahmen gezeigt.

Der Digitalisierungsverordnung ist die e-CODEX-Verordnung (e-Justice Communication via Online Data Exchange) vorausgegangen, die Mitte 2022 unter (EU) 2022/850 kundgemacht wurde. Mit dieser Verordnung wird das derzeit von acht Mitgliedstaaten betriebene System e‐CODEX, das in etwa als europäischer elektronischer Rechtsverkehr verstanden werden kann, an die europäische Agentur eu‐LISA Mitte übertragen, um das nachhaltige und langfristige Betriebsmanagement von e‐CODEX sicherzustellen. Bis 2033 sollen in vier Tranchen 24 Rechtsinstrumente wie zB der europäische Haftbefehl verpflichtend auf die e-CODEX-Schiene gebracht werden. Die Vorgaben sind jeweils in Einführungsverordnungen (Implementing Acts) festzulegen.

Darüber hinaus werden die kürzlich verabschiedete EU e-Justice-Strategie und die von der EU Kommission geförderten Projekte vorgestellt, an denen sich das Bundesministerium für Justiz beteiligt hat.

11:00-12:30 Session 10C: Cybersecurity, Cybercrime & Digital Evidence II
11:00
Safeguards of Fair Content Moderation: What Can DSA Learn from NetzDG

ABSTRACT. See the extended abstract in the attachment.

11:30
Spreading lies should not be profitable: How European legislation aims at preventing the monetization of disinformation.

ABSTRACT. It is undeniable that the internet has changed the way we communicate and get information. Freely available websites and social networks have taken away the status of gatekeepers from traditional media. It is no longer necessary to have access to a relevant broadcast to disseminate information to the public; one needs simply to use a social network and have the ability to reach an audience. It is also possible to monetize content on the internet, which has enabled the rise of content creators who can make a decent living by disseminating their content online. This openness brings unwanted consequences, here in the form of the spread of dangerous content, including disinformation. The spread of disinformation, as an intentionally created and disseminated false information and stories, is an ongoing threat that can destroy mutual trust, interpersonal relations, and the democratic rule of law. Moreover, even the disseminators of disinformation can make a profit by creating and spreading their falsehoods. Well known example are the teenagers from the city of Veles in Northern Macedonia who made profit of spreading disinformation about US presidential election in 2016.

Thus, in their efforts to limit the spread of misinformation, the relevant actors are focusing on the demonetization of disinformation content. In my contribution, I would like to focus on demonetisation of disinformation, specifically one way of demonetising disinformation, which is by limiting advertising revenue. Although disseminators of disinformation can make money in other ways, such as through the contributions of their followers or by selling their products, advertising-generated revenue is the most common monetization option used by content creators, including disinformation spreaders.

The European legislation has already addressed the demonetization of advertising profits. In 2018, the High-Level Group on Fake News and Online Disinformation recommended in its report the demonetisation of disinformation content as a measure to combat the spread of disinformation. Subsequently, the Code of Practice on Disinformation (COPD) was created as a set of self-regulatory standards to mitigate the spread of disinformation, its signatories were the largest online platforms. Recently, the regulation of online advertisement has been reshaped by the Digital Services Act (DSA). The DSA sets up a general set of rules for advertisement on online platforms and a stricter set of rules for very large online platforms. Furthermore, very large online platforms shall carry out risk assessment aimed at the possible spread of illegal and harmful content and adopt mitigation measures aimed at identified risks. Such a measure to mitigate the spread of disinformation can be adopting the COPD, more specifically its 2022 version, which has been significantly amended to include provisions on the demonetization of disinformation content and more thorough monitoring of the fulfilment of the code. The 2022 version of COPD aims at becoming a Code of Conduct in accordance with the article 45 of the DSA.

The objective of my paper is to describe the demonetization of disinformation content. My paper will have three parts. First, I will describe the demonetization od disinformation as a regulatory safeguard aimed at limiting the spread of disinformation. I will analyse its advantages to disadvantages when compared to other legal tools aimed at disinformation content. In the second part, I will focus on the regulations presented above, where my aim will be to describe and analyse how they seek to achieve the demonetization of disinformation. In the final part, I will describe, based on available reports on compliance with the COPD, how signatories are trying to achieve the commitments contained in the COPD.

12:00
The road towards a legal framework for cybersecurity applicable to the European smart grid for electricity
PRESENTER: Frantisek Kasl

ABSTRACT. The European energy sector faces a rising vulnerability to cyberattacks, posing a significant threat to modern societies due to its interconnected nature with critical infrastructure. This fragility could result in substantial physical and economic harm and be exploited for geopolitical purposes, as it is possible to see with the war in Ukraine. While digitalization enhances efficiency, it also exposes vulnerabilities. Recognizing the urgency of protecting critical energy infrastructure, a new European legislative framework is being established. This contribution focuses on examining the new regulatory framework and identifying persisting challenges for development of smart grids for electricity.

11:00-12:30 Session 10D: AI & Law / KI & Recht II: Legal Tech
11:00
Legal Tech Unterricht an französischen Rechtsfakultäten / Legal Tech Education in Law Faculties in France

ABSTRACT. Ab den 60er Jahren des vorigen Jahrhunderts hat sich die Rechtsinformatik zunächst im dokumentarischen Bereich entwickelt, ging es doch darum offizielle Akte elektronisch zur Verfügung zu stellen und durch Metadaten immer bessere Suchmöglichkeiten anzubieten. Projekte zum weiteren Einsatz von Informatik im Bereich des Rechts, wie zum Beispiel in der Entwicklung von Experten-Systemen, blieben weitgehend nur unter wenigen Spezialisten bekannt. Erst ab den 90er Jahre hat die Rechtsinformatik immer mehr Rechtsbereiche durchdrungen und sich von einer Disziplin für Spezialisten zu einem allgemeineren notwendigen Fach für Juristen entwickelt. Daher kam das Bedürfnis in Rechtsfakultäten Legal Tech Unterricht anzubieten, sowie er an der Universität Regensburg entwickelt wurde und auch im Rahmen von IRIS Konferenzen vorgestellt wurde. Mit dem jetzigen Beitrag geht es darum, zu berichten, was sich in Frankreich in diesem Rahmen tut und früher getan hat. Zunächst muss aber der Begriff “Legal Tech” unter die Lupe genommen werden, denn selbst auf der Ebene Deutschlands ist es nicht sicher, dass Legal Tech einheitlich definiert wird. Es hat den Anschein, dass es sich hier um ein sehr weitgefasstes Konzept handelt, das sich auch ständig im Zuge weiterer Erkenntnisse erweitern lässt. Es ist klar, dass jede Institution, die einen solchen Unterricht entwickelt, sich außer von eigenen Gedanken auch von dem inspirieren lässt, was andere anbieten und dadurch der Begriff Legal Tech näher und einheitlicher definiert werden kann. Trotz seinem englischen Hauch ist jedoch der Begriff nicht europäisch und nicht international. Es geht also in diesem Beitrag darum, zu erkunden was dem Begriff Legal Tech, wie er – einheitlich oder uneinheitlich - an deutschen Universitäten gebraucht wird, im Unterricht an französischen Rechtsfakultäten gegenüber steht. In Frankreich bieten verschiedene Universitäten Unterricht im Bereich der Rechtsinformatik an. Pionierarbeit leistete schon Ende der 80er Jahre die Universität Montpellier. Inzwischen gibt es an vielen Universitäten Unterricht und Diplome in diesem Bereich. Es gestaltet sich aber in Frankreich anders als in Deutschland, da allgemein die Ausbildung von Juristen zwar überall in Frankreich ein gemeinsames Pensum haben muss, aber nicht an die strikten Vorgaben der deutschen juristischen Staatsexamina gebunden ist. Deshalb hat sich eine Vielzahl von Unterrichtsrichtungen entwickelt, deren Ziel es ist, Juristen das Verständnis von IT zu vermitteln oder gar technische Fähigkeiten, entweder als Zusatz zur normalen universitären Juristenlaufbahn oder als Spezialisierung ab dem 3. oder 4. Studiums Jahr, für Juristen, die als Mittler zwischen Juristen und Informatiker ihren Platz finden sollten. Ziel des Beitrags ist es also verschiedene von französischen Fakultäten angebotene rechtsinformatische Ausbildungen zu beschreiben und zu bewerten.

11:30
Responsible Standardisation of Smart Systems – Whose Expertise Do We Need?

ABSTRACT. Standards shape future technologies. The paper argues that a process is needed to enable all stakeholders to contribute to the development of these standards. This holds specifically for smart systems, which may be expected to have unprecedented societal ramifications. Such a process, which follows the principles of Responsible Standardisation, is introduced. It follows from a discussion of the current situation in smart system standardisation, including the representation of a variety of stakeholders and the resulting multi-disciplinarity; this discussion unveils several shortcomings.

12:00
Auslegung des KI-VO-E zur Evaluation von Symbolischen Deduktionsverfahren der Künstlichen Intelligenz für juristische Anwendungen
PRESENTER: Axel Adrian

ABSTRACT. Der Entwurf der Verordnung für Künstliche Intelligenz der EU (KI-VO-E) sieht vor, bestimmte Qualitätssicherungsanforderungen für KI-Systeme vorzuschreiben, sofern deren Einsatz risikobehaftet ist. Dabei werden im KI-VO-E explizit symbolische KI-Verfahren als ein Beispiel der vielfältigen Landschaft der KI-Verfahren eingeschlossen. In diesem Aufsatz werden grundlegende, im KI-VO-E formulierte Tatbestandsmerkmale, im Kontext von logik-basierten symbolischen KI-Systemen ausgelegt und deren Evaluationsmöglichkeiten beschrieben.

11:00-12:30 Session 10E: Panel: Wirkungsorientierung

„Lichtermeer statt Leuchtfeuer" - Möglichkeiten der Wirkungsorientierung digitaler Maßnahmen und Projekte"

Digitale Projekte sind häufig durch einen hohen Komplexitätsgrad gekennzeichnet: zahlreiche Teilprojekte mit einer großen Bandbreite über verschiedene Handlungsfelder hinweg (cross-sectoral) bei Einsatz begrenzter Ressourcen (personell, finanziell) und einer gewünschten hohen Transparenz (Berichtspflicht gegenüber den Stakeholdern Verwaltung, Politik, Bürgerschaft, Gesellschaft). Daraus resultieren entsprechende Anforderungen an die Projektdokumentation und die Erfolgsparameter. Wie kann die wachsende Digitalisierung strategisch „messbar“ gemacht werden, wie können Wirkeffekte dargestellt, wie Projekte wirkungsorientiert gesteuert werden? Im Ergebnis reichen einfache Indikatoren zur Wirkungsmessung nicht aus. Eine simple Adaption bislang verfügbarer internationaler Indikatoren ist eher quantitativ als qualitativ ausgerichtet und oftmals kollidierend mit den europäischen Rahmenbedingungen (Datenschutz, Verständnis der aktiven Bürgerpartizipation „auf Augenhöhe“, städtebaulichen Gegebenheiten historischer europäischer Kommunen, Denkmalschutz, …). Hier bedarf es vielmehr der zielgerichteten Messung statt einer Fokussierung auf Daten, die einfach zu erschließen sind!Derzeit gibt es sowohl in der Wissenschaft als auch in der Praxis Aktivitäten, im Bereich kommunaler Smart City Initiativen unterschiedliche Methoden der Wirkungserfassung und -messung zu testen. Ziel der Aktivitäten ist es, ein anerkanntes qualitatives und quantitatives Portfolio der Indikatoren und Methoden zu entwickeln, das die relevanten Handlungsfelder derintelligent vernetzten Stadt berücksichtigt und im Ergebnis langfristig zur Standardisierung beiträgt. Nationale und europäische Standardisierungsgremien und Initiativen unterstützen diesen Ansatz.Die IRI§ 2024 wollen wir für eine länder- und sektorenübergreifende Betrachtung und Sammlung unterschiedlicher Erfahrungen mit „Wirkungsorientierung“ im Bereich digitaler Projekte und Maßnahmen anhand von Beiträgen und Einreichungen sowohl aus der wissenschaftlichen Perspektive als auch aus der (Verwaltungs-)Praxis nutzen.

  • Impulsreferat und Vorsitz: Tanja Krins
  • Anwendung der OKR-Methode zurWirkungsmessung der Prozesse von SmartCity-Initiativen: David Gelantia, Amiran Gelantia and Giorgi Gelantia 
  • Wir wollen wirksam sein, aber… Herausforderungen praktischer Wirkungsorientierung in der deutschen Ministerialverwaltung: Erkenntnisse aus Wissenschaft und Praxis: Benedikt Göllner, Vivian Benert
  • REVIEW AND APPLICATION OF A SCORING MODELFOR PUBLIC ADMINISTRATIONPROCESS PRIORITIZATION IN GERMANY,:Tim Pidun, Dirk Müller
Chair:
11:00
Wir wollen wirksam sein, aber… Herausforderungen praktischer Wirkungsorientierung in der deutschen Ministerialverwaltung: Erkenntnisse aus Wissenschaft und Praxis
PRESENTER: Benedikt Göller

ABSTRACT. Wirkung von staatlichem Handeln bezeichnet eine klar definierte gesellschaftliche Veränderung oder einen klar definierten gesellschaftlichen Nutzen („Impact“), dem eine Verhaltensänderung bei einer konkreten Zielgruppe („Outcome“) vorausgeht. Ursachen dieser „Wirkung“ (Outcome + Impact) sind der Einsatz staatlicher Ressourcen für ein Vorhaben („Input“) und dessen direkte Ergebnisse („Output“). Der kausale Zusammenhang von Input, Output, Outcome und Impact kann etwa in einem sogenannten (vereinfachten) IOOI-Wirkungsmodell dargestellt werden. Wie internationale Beispiele, etwa aus Österreich, zeigen, bringt Wirkungsorientierung diverse Vorteile für Staat und Verwaltung mit sich und kann etwa zu mehr Legitimation für staatliche Maßnahmen führen. Auch die deutsche Bundesregierung formuliert im Koalitionsvertrag aus dem Jahr 2021 das Zielbild eines lernenden Staates. Doch die Umsetzung erweist sich bisher als schwierig. Daher stellt sich die Frage: Vor welchen konkreten Herausforderungen steht die deutsche Ministerialverwaltung bei der Umsetzung von Wirkungsorientierung und wie lassen sich geeignete Lösungen implementieren? Das Forschungsprojekt widmet sich der Beantwortung dieser Fragen mit einem wissenschaftlichen und zugleich praxisorientierten Ansatz. Die Grundlage der Ursachenanalyse bilden 15 qualitative Leitfadeninterviews mit Umsetzenden der Digitalstrategie der Bundesregierung, die zwischen März und September 2023 durchgeführt wurden. Das Ergebnis sind fünf Hypothesen zu den Bedingungen für (fehlende) Wirkungsorientierung in der Ministerialverwaltung. Diese lauten (in Kurzform): Wirkungsorientierung in der Ministerialverwaltung wird erschwert, wenn… … komplexe Stakeholderkonstellationen existieren. (H1) … Methoden für Wirkungsorientierung nicht institutionell verankert sind und damit keine Anreize für wirkungsorientiertes Arbeiten bestehen. (H2) … grundlegendes Wissen für wirkungsorientiertes Arbeiten fehlt. (H3) … die Zeit zur Vorbereitung und Umsetzung von Maßnahmen fehlt. (H4) … der Bezug zu den übergeordneten, strategischen Zielen nicht ausreichend hergestellt ist. (H5) In der zweiten Projektphase (2024-2025) werden wir ausgewählte Digitalprojekte in Deutschland begleiten, um Methoden zur praktischen Wirkungsorientierung zu erproben. Die Hypothesen bilden dafür die wissenschaftliche Grundlage. Der Vortrag bietet somit einen Einblick in wissenschaftlich fundierte Wirkungsorientierung im Kontext der Ministerialverwaltung und verknüpft diesen mit Erfahrungen aus der (bisherigen) praktischen Umsetzung.

11:30
Anwendung der OKR-Methode zur Wirkungsmessung der Prozesse von Smart City-Initiativen

ABSTRACT. In diesem Forschungsvorhaben wird die Anwendung der Objectives and Key Results (OKR)-Methode zur Wirkungsmessung der Prozesse von Smart City-Initiativen in den Städten Freiburg und Köln untersucht. Dabei werden bei der OKR-Methode Key Performance Indicators (KPIs) als Leistungsindikatoren mitaufgenommen, die den Erfolg einer Zielvorgabe messen. Es werden spezifische OKRs und KPIs identifiziert, um Fortschritte und Erfolge in den verschiedenen Smart City-Teilprojekten zu messen, wie z. B. Ressourcenauslastung, Mitarbeiterzufriedenheit und Kooperationsgrad. Um diese KPIs effektiv zu nutzen, wird die Analytische Hierarchieprozess (AHP)-Methode angewendet, um eine Gewichtung und ein Ranking der identifizierten KPIs vorzunehmen. Dies ermöglicht eine gezieltere Bewertung und Priorisierung von KPIs, um die Effektivität von Smart City-Prozessen zu maximieren. Die Ergebnisse dieser Forschung bieten wertvolle Einblicke in die Erfolge, Herausforderungen und Best Practices von Smart City-Projekten in Freiburg und Köln. Letztlich gilt es dabei eine Orientierungshilfe für andere Smart City-Initiativen zu bieten, damit eine effizientere und nachhaltigere Entwicklung von Städten in Deutschland gefördert wird.

12:00
Review and Application of a Scoring Model for Public Administration Process Prioritization

ABSTRACT. We apply the Information Systems Success Model to the domain of public administration in Germany to formulate a substantiated alternative approach as well as a matching scoring model to overcome the prevailing political prioritization of public service processes. The proposed score is evaluated in four different case settings, three administrative levels with the help of three different methods. The scoring models can be used consistently throughout the body of investigation. We discuss the results of the evaluation in the context of usability and usefulness and describe commonalities and variances. Guidelines, potential adaptions and future research suggestions frame the paper.

11:00-12:30 Session 10F: Panel: Smart Contracts

Panel: 

Smart Contracts vor Gericht, Georg Borges

Durch blockchainbaiserte Smart Contracts soll die Vertragsdurchführung gesichert und gerichtsfest dokumentiert werden. Im Projekt "Recht-Testbed Industrie 4.0" wird eine Simulationsstudie (Dokumentation eines simulierten Gerichtsverfahrens) durchgeführt, das zentrale Aspekte von Smart contracts (Nachweis von Erklärungen und Ausführungshandlungen) untersucht. Der Vortrag stellt die Studie vor.

Rechtsfragen der Mensch-Maschine-Kommunikation im Straßenverkehr, Oliver Keßler

Viele Szenarien im Straßenverkehr bedürfen einer Kommunikation der Beteiligten, so z.B. das Auflösen sog. Pattsituationen. Dies geschieht derzeit v.a. durch menschliche Gesten. Im Zusammenhang mit autonomen Fahrzeugen müssen jedoch andere Lösungswege gefunden werden. Der Vortrag geht auf die rechtlichen Fragestellungen einer Car2X-Kommunikation sowie der Intentionserkennung von menschlichen Akteuren ein. Der Beitrag beruht dabei auf Arbeiten im Rahmen des Forschungsprojekts "INITIATIVE".

Rechtsfragen beim Einsatz von KI zur Straßensicherung am Beispiel von Tunnelleitzentralen, Moritz Philipp

Der Einsatz von KI z.B. in Tunnelleitzentralen kann einen enormen Mehrwert für die Sicherheit der Verkehrsteilnehmer haben. Allerdings wirft der Einsatz von KI in diesem Bereich einige bisher ungeklärte Rechtsfragen auf, die im Rahmen des Projekts "KITT" untersucht wurden. Der Vortrag soll insbesondere die Fragestellungen rund um die datenschutzrechtlichen und haftungsrechtlichen Problematiken untersuchen.

14:00-15:30 Session 11A: IP Law/Recht II
14:00
Blessing or curse? Unfair Competition in Czech copyright enforcement and its impacts on platform liability and public domain

ABSTRACT. This article delves into the intricate interplay between safe harbor protection, platform liability, and the emerging use of unfair competition claims in the Czech Republic. These claims serve as an additional layer of copyright protection, potentially extending its scope. Of particular concern is their impact on the public domain. The study investigates the application of unfair competition in Czech copyright enforcement and its implications for both copyright and the public domain. It reveals a growing trend of unfair competition complementing copyright enforcement, upsetting the delicate balance of copyright. The article critically examines unfair competition claims in the Czech context, particularly the Hellspy case, offering three arguments against its conclusions. In addition to arising from a flawed legal analysis, the unfair competition claims appear unconvincing since they utilize the same economic rationale that underpins the system they aim to circumvent. Ultimately, these claims constitute an external approach to copyright, thereby disturbing the delicate equilibrium of the copyright framework.

14:30
Reexamining Precision and Objectivity in Copyright Protection for Non-Traditional Creations

ABSTRACT. The Court of Justice of the European Union (CJEU) has consistently emphasized that creative works must embody "original expression," reflecting the author's personality and their freely made creative choices. This principle, central to copyright law, is underscored in landmark cases such as Painer (C-145/10), Renckhoff (C-161/17), and Cofemel (C-683/17). See also ROSATI, ELEANORA. Copyright and the Court of Justice of the European Union, Oxford University Press, Oxford 2019, p. 75 ff. Furthermore, the CJEU has maintained that creative works should remain uninfluenced by technical constraints, rules, or limitations that stifle creative freedom. An equally crucial criterion is that these works must be precisely and objectively identifiable as distinct creations, a requirement illustrated in cases like Levola Hengelo (C-310/17) and Brompton Bicycle (C-833/18). See INGUANEZ, DANIEL. A Refined Approach to Originality in EU Copyright Law in Light of the ECJ’s Recent Copyright/Design Cumulation Case Law. IIC, Volume 51, Issue 7, 2020; SGANGA, CATERINA. Say nay to a tastier copyright: why the CJEU should deny copyright protection for taste (and smells). Journal of Intellectual Property Law & Practice, Volume 14, Issue 3, 2019; MCCUTCHEON, JANI. Levola Hengelo BV v Smilde Foods BV: The Hard Work of Defining a Copyright Work. The Modern Law Review, Volume 82, Issue 5, 2019. The precision and objective identification requirement have recently been underlined by the Spanish Supreme Court in its "Faena" decision (Tribunal Supremo, Sala de lo Civil, No. 82/2021, 16 February 2021). In a landmark ruling, the Civil Chamber of the Supreme Court declared that the work of a bullfighter cannot qualify for copyright protection, primarily because it is inherently challenging to precisely and objectively identify the original artistic creation within a bullfighting performance. Building upon CJEU jurisprudence, the Court maintained that a work must be expressed in a manner allowing for identification with sufficient precision and objectivity, even if the expression is not necessarily permanent. The Court also emphasized the inherent difficulty in objectively expressing what constitutes the artistic creation of a bullfighter during a specific performance, given the emotional impact and aesthetic elements intrinsic to the dramatic context of a bullfight (ALTABA, SIMON, Is a Bullfight a Work of Art? Not in Spain Apparently. IIC, Volume 52, Issue 6, 2021). This paper researches the implications of the Spanish Supreme Court's conclusions and explores the CJEU's requirement of sufficient precision and objective identification, particularly concerning non-traditional creations. The author contends that this requirement extends beyond olfactory or culinary works, encompassing also visual perceptions such as flashes, shadows, fog, and darkness. Despite being perceptible by the visual senses, these elements could pose challenges in being identified with the required precision and objectivity, thereby raising questions about how third parties, especially competitors, can ascertain the protected subject matter with the necessary legal certainty (Levola Hengelo (C-310/17), paragraph 41.

15:00
Legal texts in times of LLMs: Machine-readable terms and conditions?

ABSTRACT. When the CDSM Directive introduced exception from text and data mining in Article 4, it allowed rightsholders to opt out from such exception by expressly reserving their rights „in an appropriate manner, such as machine-readable means“. At the same time the Directive allows rightsholders to express such reservation through terms and conditions of a website and thus acknowledges the existene of machine-readable terms and conditions. Therefore - besides its impact in terms of content of such exception - Article 4 CDSM Directive is somewhat unicorn and futuristic by being one of the first European laws to codify a machine-readability of contractual texts. The idea of expressing certain terms in a different way has been tackled in consumer-facing areas such as data protection, e-commerce or insurance sector.

As follows from research conducted by Ducato and Strowel on 21 selected platforms from the mobility, accommodation and food industry, the vast majority of examined platforms already implemented such contractual restrictions: “In particular, 20 out of 21 platforms published the T&C on their website and 14 of them contained specific intellectual property clauses, directly or indirectly related to TDM activities.” As follows from research conducted by Margoni and Schirru on 13 stock images platforms, majority of these platforms (9 out of 13) also addressed data mining at some level. Margoni and Schirru noticed an interesting fact – that “most of the providers that address TDM or uses for AI/ML purposes expressly prohibit such practices”.

And thus, an important question arises: how can we interpret the level of “machine-readability” sufficient to consider the terms and conditions as validly expressing the legal conduct? How can we apply the existing requirements on expressions of legal acts to constitute binding legal conduct within the machine readability?

Machine-readability could have two practical implications: (i) the website containing the terms of use must be accessible via automated means (i.e. the access should not be restricted, as it might be with respect to a site containing content itself, which is especially relevant if the rightsholder’s website is subject to restrictive Robots.txt as the rightsholder should keep in mind to exempt the site with terms of use from such restriction) ; and (ii) the content of the terms of use and the wording containing such a reservation must be drafted in such standardized way to be readable by a machine. As Margoni and Schirru interestingly noted in their research on terms and conditions of Stock Image Platform, majority of the reviewed platforms addressing TDM “employ terms like machine learning or more generally refer to uses for “artificial intelligence purposes”, sometimes without offering a proper definition”. And thus, machine-readability will inevitably be associated with a high level of standardisation.

Ultimately, this dilemma might also find resolution through court rulings establishing a legal interpretation of the term “machine-readable” within the meaning of Art. 4 CDSM Directive. These interpretations could address the legal question whether the term “readable” should be understood broadly – implying that any form of expression demonstrating mere "ability" to be read or decoded by a machine qualifies as being "machine-readable" – or whether the term “readable” should necessitate a certain minimum standard of reasonable expectation of actually being decoded by machines under current state of technology with reasonable level of sophistication.

Considering the amount of text contained in standard terms and conditions, machine-readability of such terms could – in times of rising relevance of artificial intelligence an large language models – become a user-friendly solution to bring these legal texts back to the users.

14:00-15:30 Session 11B: E-Commerce II
14:00
Zahlungsverkehr und Tauschhandel - Recht und Informatik

ABSTRACT. Die Automatisierung von Vertragsbeziehungen bietet enormes Innovationspotential. Die Beschleunigung von Vertragsschlüssen und Erfüllungshandlungen soll in Wertschöpfungsnetzwerken der Industrie 4.0 zu einer erheblichen Reduktion von Transaktionskosten führen. Die Ausführung von Smart Contracts auf Basis organisationsübergreifend verwalteter Blockchain-Technologien soll den manipulationssicheren Datenaustausch zwischen und die ebensolche Speicherung auf Knoten von Peer-to-Peer-Netzwerken ermöglichen. Der Einsatz von Maschinen und die Kommunikation Maschine zu Maschine wirft dabei insbesondere im Hinblick auf Zahlungsanweisungen rechtliche Fragestellungen auf. Während schuldrechtlich die Zurechnung und Verbindlichkeit der Anweisung sowie die Finalität der Zahlung in Frage stehen, zeigen sich aufsichtsrechtlich Hürden aufgrund der Erfordernisse starker Kundenauthentifizierung. Der nachfolgende Beitrag untersucht Möglichkeiten der Automatisierung von Zahlungen zwischen Unternehmen und geht dabei auf ausgewählte rechtliche Fragestellungen des nationalen und EU-rechtlichen Rechtsrahmens ein. Zum einen wird die Auslösung von Zahlungsanweisungen mittels sog. Triggerlösungen in den Blick genommen. Zum anderen werden Token aus rechtlicher Perspektive eingeordnet, und es wird ihr Einsatz im Rahmen der Erfüllungen von Zahlungsverbindlichkeiten untersucht.

14:30
Data Governance Act: Neue Regelungen für den Datenaustausch

ABSTRACT. Der Europäische Gesetzgeber will mit dem neuen Data Governance Act, insbesondere mit den darin enthaltenen Regelungen für Datenvermittlungsdienste, den Datenaustausch im EU-Binnenmarkt fördern. Datenmittler, die in den Anwendungsbereich der Verordnung fallen, müssen künftig zahlreiche Anforderungen erfüllen, wenn sie ihre Vermittlungsdienste anbieten. Aufgrund der umfangreichen Verpflichtungen für Datenmittler wird der Data Governance Act jedoch teilweise kritisiert und nicht als Anreiz sondern vielmehr als Blockade für den Datenaustausch gesehen.

15:00
AI-Enhanced fresh starts: Proactive financial health care with AI as a personalized coach (online)
PRESENTER: Nina Toivonen

ABSTRACT. This paper explores how AI can be used to help individuals in financial distress to overcome debt. Using the behavioral COM-B model as a framework for designing effective interventions, we discuss how AI can help improve individuals‘ capabilities, opportunities and motivation to sustain better financial health, and what solutions already exist for these purposes. To demonstrate the unleashed potential of AI in debt rehabilitation we conduct an experiment with OpenAI’s GPT-4, an AI model, to assess its proficiency and effectiveness as a personalized financial coach. While the potential of AI to support debt rehabilitation becomes evident, we also argue for the need for trustworthy technology and trust-building regulation that promotes the responsible design, implementation and use of AI in the financial sector.

14:00-15:30 Session 11C: Cybersecurity, Cybercrime & Digital Evidence III
14:00
The issue of proportionality in evidentiary data collection within the new EU legal framework
PRESENTER: Luca Baron

ABSTRACT. There are many challenges to the principle of proportionality in cross-border flow of “digital evidences” in the EU, revised by the recent “EU Evidence Package”. Such principle operates mainly in seizures, which are mostly regulated at national level - such as in Italy and Austria - but also in other types of measures - of preservation and production - that currently find their first legal basis in EU law. In this contribution we discuss possible remedies and tools for enforcing the rights of defence and rebalancing the fairness of trial, starting from a recent italian legislative proposal.

14:30
Multidimensionale Spurensuche in der IT-Forensik

ABSTRACT. Wie IT-Spuren welche mit einem Täter in Verbindung gebracht werden können zu bewerten sind lassen sowohl die Normen als auch die Rsp. offen. Auch bezüglich technische Normen existiert kein Ansatz, IT-Spuren systematisch zu bewerten, sodass ein Zusammenhang mit dem Täter, dem Tatort und der Tatzeit hergestellt oder ausgeschlossen werden kann. Aus der Literatur ist jedoch ein durchaus brauchbarer Ansatz bekannt, wo mit Hilfe einer 7-stufigen Bewertungsskala, die auf die Kombination von Wahrscheinlichkeit und Manipulationssicherheit der Spuren eingeht. Für die Bestimmung der Schuld oder Unschuld des Angeklagten muss unter der Beachtung der freien Beweiswürdigung mit an Sicherheit grenzender Wahrscheinlichkeit feststehen, dass kein Freispruchgrund vorliegt. Hingegen wird im Zivilprozess nach der überwiegenden Wahrscheinlichkeit gewertet. Generell ist die Beurteilung von IT-Spuren hins. Schuld oder Unschult eine vage Angelegenheit, die nur mit viel Verantwortung und Sachverstand bewerkstelligt werden kann, um einen Bias möglichst hintanzuhalten. Unterstützende Werkzeuge, Methoden oder Verfahrensweisen fehlen vollkommen. Diese Arbeit versucht die 7-stufige Bewertungsskala mehrdimensional zu erweitern, sodass ein systematischer Ansatz zur Spurenbewertung in der IT geschaffen wird.

15:00
Transferring the Concept of Tabletop Exercises into the Legal Domain
PRESENTER: Peter Kieseberg

ABSTRACT. The strategy of simulating cyber incidents and training their subsequent handling is gaining increasing importance, as hands-on exercises are seen to be a vital part in developing practical skills under stress and external influences. Thus, on a technical level, these exercises have reached a good level of professionalism. Still, typical scenarios focus on the technical aspects, while legal issues are only considered as sub-topic at the side. With respect to the rising importance of legal matters in IT, this needs to be rectified. In this work we discuss, how use the method of conducting cyber exercises for training the legal aspects of cyber incidents.

15:30
Sachverständigenbeweis im Strafverfahren mit KI?

ABSTRACT. Im Bereich des IT-Strafrechts ist es aufgrund der über die Jahre stetig steigenden Datenmengen gegeben, dass die Aufwände zur Beweissicherung und Analyse der Daten analog dazu – trotz der gestiegenen Rechenleistungen – ansteigt. Der Einsatz entsprechender forensischer Werkzeuge ist daher geboten. Diese Technologien unterstützen Forensiker dabei, Ergebnisse in kurzer Zeit zu erhalten, welche diese bei manueller Sichtung niemals erhalten hätten. Allerdings sollten sich sie nicht von solchen Ergebnissen hinreißen lassen, und voreilige und womöglich falsche Schlussfolgeŕungen zu tätigen. Dieses als „Bias‟ bekannte Phänomen ist die systematische fehlerhafte Neigung beim Wahrnehmen, Erinnern, Denken und Urteilen. Die in jüngster Zeit aufgekommenen KI-Systeme könnten daher eine innovative Methode darstellen, Sachverständige dabei zu unterstützen einerseits rasch zu Ergebnissen zu kommen, und andererseits durch diese „künstliche Intelligenz‟ einem Bias zu entgehen, und so die Qualität der Befundaufnahmen und Gutachten zu erhöhen. Diese Arbeit beschäftigt sich mit Möglichkeiten eine KI sinnvoll in der Gutachtensarbeit einzusetzen, und zeigt auch dabei die Grenzen anhand von Beispielen auf. Erforscht wurde anhand von „Google Bard‟, dass die Generierung technischer Anforderungen, wie bspw. einem Testprogramm oder einem Datenmodell mit Testdaten nahezu perfekte Ergebnisse liefert, welche der Sachverständigenarbeit zeitsparend zugute kommt. Hingegen kann gezeigt werden, wenn Fragestellungen im interdisziplinären Bereich gestellt werden, wie das Ziehen rechtsrelevanter Schlüsse, KI-Systeme mit falschen Ergebnissen vollkommen versagen.

14:00-15:30 Session 11D: AI & Law / KI & Recht III: Legal Issues / Rechtsfragen
14:00
Not all signatures are created equally

ABSTRACT. Technical and legal differences in electronic signatures and their applicability

Der Vortrag "Not all signatures are created equally – technische und rechtliche Unterschiede bei elektronischen Signaturen und deren Anwendbarkeit" beleuchtet die vielschichtigen Aspekte elektronischer Signaturen aus einer rechtlichen Perspektive. In der heutigen digitalen Ära gewinnen elektronische Signaturen zunehmend an Bedeutung, bieten sie doch eine bequeme und effiziente Möglichkeit, rechtlich bindende Vereinbarungen online zu schließen. Doch nicht alle Signaturen sind gleichwertig. Dieser Vortrag analysiert die technischen und rechtlichen Unterschiede zwischen verschiedenen Arten elektronischer Signaturen.

Die technische Ermöglichung von PDF-Signaturen ist komplex. So gibt es allein vom ETSI 4 verschiedene Standards, die alle wiederum unterschiedliche Untertypen haben. Adobe verwendete historisch eigene Signaturtypen, genauso wie Österreich mit dem PDF-AS-Standard des Grazer EGIZ wiederum eine eigene technische Art der PDF-Signatur anbot, die mit den mittlerweile gängigen PAdES-Signaturen von ETSI inkompatibel ist. Selbst bei PAdES gibt es dann wiederum die Unterschiede zwischen den verschiedenen „Baselines“ B, T, LT und LTA, die alle unterschiedlichen Eigenschaften besitzen. Auch die Signaturen können als „Signatur“ oder „Zertifikat“ ausgestaltet sein, wobei Zertifikate wiederum eigene Einschränkungen an die Bearbeitbarkeit von PDF-Dokumenten nach erfolgter Signatur stellen können. Und während all diese Begriffe sich teilweise mit den legistischen Rechtsbegriffen der eIDAS-VO überschneiden, bestehen doch auch Unterschiede. Schließlich begründet die eIDAS-VO dann auch noch Unterschiede zwischen Zertifikaten, Siegeln, qualifizierten und nicht qualifizierten Zertifikaten, die zum Teil auch Eingang in der technischen Ausgestaltung finden.

Im diesem Talk soll ein Streifzug durch die komplexe technische Ausgestaltung von Signaturen absolviert werden, es werden konkrete Beispiele von bekannten digital signierten Dokumenten aus dem deutsch-österreichischen Sprachraum gebracht, und am Ende sollen die Teilnehmer:innen ein Grundverständnis über die Unterschiede im Einsatz verschiedener Signaturstandards und -ausgestaltungen besitzen.

Im zweiten Teil des Vortrags werden die rechtlichen Grundlagen elektronischer Signaturen beleuchtet. Dabei werden Fragen zur rechtlichen Wirksamkeit und Anwendbarkeit erörtert. Insbesondere werden die Herausforderungen der eIDAS-Verordnung (EU) Nr. 910/2014 analysiert. Diese Verordnung stellt einen bedeutenden Schritt zur Schaffung eines einheitlichen Rechtsrahmens für elektronische Signaturen in Europa dar und wirft zugleich komplexe rechtliche Fragen auf, die in diesem Vortrag ergründet werden.

Darüber hinaus werden aktuelle Entwicklungen im Bereich elektronischer Signaturen präsentiert, um einen Einblick in die praktische Anwendung und die sich ständig verändernde rechtliche Landschaft zu bieten. Ziel ist es, ein fundiertes Verständnis für die verschiedenen Arten von elektronischen Signaturen zu vermitteln. Der Vortrag bietet eine umfassende Übersicht über die rechtlichen und technischen Unterschiede und Herausforderungen und Möglichkeiten elektronischer Signaturen und zeigt auf, wie eine fundierte Kenntnis dieser Thematik zu rechtlich belastbaren Lösungen in der digitalen Welt führen kann.

14:30
AI and Emotional data between the Scylla and Charybdis of European Regulation

ABSTRACT. Not just linguistic models as Chat GPT but also other applications in all other veins of human activities. Education, health and social services, traffic and science, military and surveillance, neither of those is escaping AI influence. These applications will influence our functioning, and emotional behaviour. Although we never doubt that regulating new technologies that have a strong effect on so many societal processes is necessary, we have to be careful not to chill further development of the use of AI to avoid possible unknown risks. Research on the effects of AI certainly has to be centred on the influence on human life and fundamental requirements and rights, but also investments and legal protection of AI-related innovations are indispensable. This is certainly the case when AI uses emotional data derived from or influencing natural persons and life experiences. Investments and legal protection of inventions in this field by patenting might be challenged by several legal provisions in the EU such as the GDPR, and the draft AI Act. Also the new European Data strategy, including the Data Act and Data Governance Act, could endanger the further investment and creativity for new AI applications because of the data sharing requirements.This article analyses the opportunities and risks of regulating AI for emotional data processing.

15:00
Navigating the Legal Landscape: Updates on AI-Based Face Recognition under the AI Act

ABSTRACT. As the adoption of artificial intelligence (AI) technologies continues to surge, the European Union has been at the forefront of shaping a legal framework to address the ethical and privacy concerns associated with AI applications. The proposed AI Act, a comprehensive legislative initiative, has garnered significant attention, particularly in its provisions related to face recognition technologies.

This follow-up presentation to last years' paper on the "New Legal Framework for AI-Based Facial Recognition" delves into the changes incorporated in the final version of the AI Act proposal, specifically focusing on the legal aspects surrounding AI-based face recognition. Our discussion will revolve around key modifications, considerations, and implications for businesses, researchers, and policymakers. We will explore the nuanced provisions that aim to strike a balance between fostering innovation and safeguarding fundamental rights.

14:00-15:30 Session 11F: Panel: Using Personal Health Data for Research

Introductory Statement by Reinhard Riedl, BFH Bern 

Panelists:

  • Ahti Saarenpää, Uni Lapland, Rovaniemi: Patient rights and patient data from a Finnish perspective

The regulation of health care in its various forms has been and is a tense social topic. It inevitably clashes between several different values, more different disciplines, more different skills and more different needs for information and communication. And ultimately, the economy is behind it all. It is difficult to find a much more demanding set of themes.

From the patient's point of view, one of the most significant regulatory methods has been, and still is, the Hippocratic Oath, which guides the activities of medical doctors  and, at the same time, the profession in general. Today, it has been complemented by a number of legal acts based on human rights treaties. At the same time, talking about patients' rights has been included in public policy.

Finland was among the first in the development of general patient rights legislation. The Act on the Status and Rights of Patients  - Patient Act - was enacted in parliament in 1992. Curiously, it was preceded by the Patient Injuries Act already in 1986. That is telling a lot about values at that time.

IT development was introduced by an interesting way 1987. Finland was seriously delayed in the development of data protection legislation. But the Personal Data Register Act of 1987 already brought patient data into the picture as sensitive information. That, and the later Patient Act, forced us to take into account the processing of patient data. More detailed provisions on the processing of patient data were later laid down in the General Act, i.e. the Act on the Electronic Processing of Client Data in Social Welfare and Health Care in 2007. That law has since been reformed in 2021 and 2023. The medical research  has been separately taken into account in the Act on the Secondary Use of Health and Social Data  enacted in 2019. It is important when thinking about the new data space.

As we move into the era of the European health data space, Finland has played a significant role in the European Tehdas-project. This project - Joint Action Towards the European Health Data Space -  of 25 EU states, has been managed within the framework of the Finnish Innovation Fund Sitra. The results of the project have been used in the Commission's preparation of EDHS regulation. A new  project of 29 EU countries, will continue under the management of Sitra too. That Sitra is a social policy research and discussion institute established by the Finnish Parliament; not an actual academic research institute. Its statutory tasks currently include promoting a fair data economy.

Although the Finnish history of regulating the processing of patient data is quite long, we cannot talk about very comprehensive progress in attitudes or practices. Unfortunately. Let us look at it from the point of view of health care practices, the development of information systems and legal research.

In healthcare practice activities, patient privacy still remains one of the practical privacy concerns. Every week, cases of misuse of patient data come to light. And the fact that many doctors even shun away from filling out medical records carefully is a well-known phenomenon. They want to focus on “real medical work”. The importance of the existence of high-quality patient data and its transmission is not recognized.

From the point of view of information systems, the multiplicity and clumsiness of different software have unfortunately been familiar from the Finnish point of view. The repulsive nature of complex software is an obstacle to flexible treatment and research.

It is partly indicative of lawyers that when there was a desire to shorten a general work about the Finnish legal System that had been used for a long time in the entrance examination to law faculties, a professor of private law wanted to remove the patient law chapter.  This happened at the end of the 1990s, but attitudes have hardly changed, even though the importance of human and fundamental rights has undeniably increased with the increase in the importance of human and fundamental rights Legal informatics and the law of Personality as modern social sciences  are still not familiar to everyone.

As the regulation of the European Data Space progresses, we should carefully learn from the regulatory developments so far and, above all, strive to develop information systems that are as uniform as possible, as well as standards, pseudonymous information and data security. The 2011 directive on cross-border healthcare needs to be significantly supplemented. And it is certainly not an easy task.

  • Filip Krepelka, MU Brno: Building the European Health Data Space – Session Series IRIS 2024 & IRIS 2025

The Commission proposed a regulation for establishing EHDS in May 2022. It promised the interconnection of health (medical) data for better cross-border treatment and unleashing medical data for biomedical research, as the interconnection expected with the 2011 Patient Rights Directive was limitedly successful.

After initial appraisals, debates about its compatibility with personal data protection dominated. Besides this, some observers questioned preparedness. One may perceive an impasse in 2023. Nonetheless, the Europan Parliament delivered its opinion, and the Member States reached an agreement in the Council. Both indicate their willingness to complete this ambitious project. We may estimate the benefits of primary and secondary health data use. Perhaps EHDS will be an impulse for completing the electronic exchange of patient data on the national level.  

Due to the importance of healthcare and medicine in contemporary society and the complex distribution of competence among the Member States and the European Union, establishing EHDS would be a significant achievement.

At IRIS 2024, we want to attract attention to the proposed EHDSR and invite legal scholars and practitioners to discuss peculiarities at IRIS 2025 in a panel. Within twelve months, one may expect the final text of the regulation or sharpen our understanding of the problems blocking the enactment of the regulation.

Despite this, crucial legal and factual aspects are apparent. Besides clarifying the relation of EHDSR to GDPR, understanding the situation of national healthcare informatics and national laws addressing them is crucial. Moreover, approaching the available medical data by providers, managing language diversity in textual data, and the policy concerning the promised research on these data deserve our discussion.

Contact:

Filip Křepelka, Masarykova univerzita, Brno, CZ, filip.krepelka@law.muni.cz

 

 

18:00-19:00 Session 14: Invited Talk / Eingeladener Vortrag III: Juristische Sprachmodelle
18:00
What can AI do for Advanced Legal Research?

ABSTRACT. INVITED TALK, updated version of talk at LVI2023