Juridische haken en ogen rem op toepassing artificial intelligence

11 november 2019 | Algoritmen moeten bijdragen aan efficiëntere productieprocessen, maar brengen ook nieuwe juridische vraagstukken met zich mee. YP Your Partner verkent de juridische haken en ogen van AI.  

Juridische haken en ogen rem op toepassing artificial intelligence

Maakbedrijven, aanbieders van software en sensortechnologie, r&d-afdelingen: om de stap naar smart industry te kunnen maken verkent iedereen de mogelijkheden van kunstmatige intelligentie (artificial intelligence, AI). Algoritmen moeten bijdragen aan efficiëntere productieprocessen, meer kwaliteit, lagere kosten en verhoogde veiligheid, maar brengen ook nieuwe juridische vraagstukken met zich mee. Van ondernemers vraagt dat verhoogde alertheid bij het aangaan van overeenkomsten op dit punt.

Datastroom

YP Your Partner in Drachten is zo’n bedrijf dat vooral bezig is met het verzamelen, samenbrengen en verwerken van (sensor)data. Het centraal beheer van die datastromen gebeurt in het eigen softwareplatform C.A.R.S, waarmee machines, apparaten en processen op afstand gemonitord, bediend en geautomatiseerd kunnen worden. Momenteel werkt YP Your Partner aan de transitie van C.A.R.S 7 naar 8 – en daarin moet ook AI zijn plek gaan vinden. ‘Als nu een drempelwaarde wordt overschreden, gaat er een alarm af. Dat moet slimmer: je wilt niet alleen de melding ontvangen dat de druk in de ketel wordt overschreden, maar ook contextinformatie. Wat is de installatiedatum van de ketel, welk serie- en typenummer heeft-ie, et cetera. Pas dan kun je je onderhoud efficiënter plannen’, aldus directeur Theun Prins.

Omzetten analoge data
YP Your Partner meet volgens Prins al dertig jaar met veel succes datastromen en beschikt ook over de tools om de context te bepalen. De grote uitdaging blijft om het systeem gevuld te krijgen. ‘Nu is nog veel informatie over installaties bijvoorbeeld in pdf-vorm beschikbaar en niet digitaal bruikbaar. Wil je die analoge data kunnen benutten, dan moeten ze worden omgezet in voor algoritmen geschikte data.’ Prins wijst in dit verband op het BIM (Bouwwerkinformatiemodel) in de bouw, waarin betrokken partijen alle gegevens rond installaties, materialen en dergelijke invoeren en delen. ‘Zo’n soort systeem hebben we ook nodig voor de industrie. Tot nu toe worden alleen kleine stukjes van onze kennis gebruikt om installaties te vergelijken of op elkaar laten te reageren. Dat betreft compacte algoritmen, geen complexe systemen. Voor installed base bestaat nog geen businesscase en dat is wel voorwaarde om AI zinvol toe te passen.’

Beslissingondersteunend
De meerwaarde van AI is duidelijk: sneller en efficiënter werken tegen lagere kosten, met voorspellend onderhoud als toverwoord. ‘Veel bedrijven zitten nu nog in de fase van statisch en handmatig in plaats van interactieve rapportages. Wij willen naar volledig voorspellende geautomatiseerde systemen. Hiervoor zijn algoritmen nodig die op basis van concrete vragen aan systemen beslissingondersteunende informatie genereren’, stelt Prins. ‘Dat als bijvoorbeeld een pomp drie keer achter elkaar stuk gaat, de software vraagt of het niet verstandig is om die pomp te vervangen. Dus niet alleen signaleren, maar ook adviseren en daarna automatisch een nieuwe pomp bestellen zodra het aantal storingen de kostprijs van de pomp overschrijdt. Daar moeten wij als mens nog gevoel voor krijgen.’

Keten van partijen
En dat niet alleen, blindvaren op algoritmen heeft ook juridische consequenties, weet Prins. ‘Stel, je hebt een dergelijk algoritme geïmplementeerd en het heeft tien keer goed gewerkt. Tien keer wordt de pomp besteld, maar de elfde keer gaat er ineens een megaorder de deur uit. Wie is daar dan verantwoordelijk voor: degene die het algoritme ontwikkeld heeft of degene die het toepast? En hoe ga je daar vervolgens mee om?’ Zo’n keten van partijen – uiteenlopend van eigenaar van de machine, aanbieder van de intelligente software, ontwikkelaar van het algoritme tot leverancier van hardware en sensoren – kan het toepassen van AI compliceren, bevestigt André Kamps, zelfstandig ict- en privacyjurist bij Kamps Juridisch Advies. ‘Als YP een algoritme heeft bedacht en in een applicatie heeft ingebouwd, passen klanten dit soms in geheel andere processen toe. Dan is het goed om in een gebruikersovereenkomst goed te scopen waar je de toepassing voor gaat gebruiken en dit vast te leggen. En verder aparte afspraken te maken over andere toepassingen, zodat je niet voor verrassingen komt te staan’, zegt hij.

Onenigheid
Naast de vraag wie voor welk stukje aansprakelijk is, kan het ontbreken van schriftelijke afspraken ook leiden tot onenigheid over bijvoorbeeld IP of revenuen. Prins illustreert dit met een praktijkvoorbeeld. ‘Stel, wij hebben algoritme ontwikkeld voor een machinebouwer in een bepaald domein en een andere partner ontdekt dat hij het ook voor zijn domein kan toepassen. Bij wie berust dan het IP? En hoe ga je om met de verdiensten die daaruit voortvloeien? Tot nu toe komen we daar doorgaans goed uit. Als een gebruiker door die geniale greep stevig verdient, dan vragen wij een vooraf bepaald percentage van de winst. Maar juridisch hebben we dit nog niet goed handen en voeten kunnen geven. We passen overeenkomsten aan op basis van voortschrijdend inzicht.’ Voor de gebruiks- en wederverkooprechten van software heeft YP al wel drie typen partnerschappen gedefinieerd. ‘Dan staat vast wat een klant kan en mag met onze software. We moeten AI nu op eenzelfde manier regelen.’

Passende afspraken
De behoefte aan passende afspraken zal in het geval van algoritmen minstens even groot zijn, beaamt Kamps. ‘Hoe ga je om met vertrouwelijke gegevens? Als een partij de overeenkomst wil beëindigen, mag hij dan nog iets met de data? Hoe zit het met de rechten als een partij ervoor kiest om met de concurrent verder te gaan? Ook het punt van continuïteit is belangrijk: wat als een partij afspraken niet nakomt of omvalt? Is het systeem dan eenvoudig te vervangen? Is er überhaupt een exitstrategie afgesproken? Allemaal zaken die je van tevoren moet inventariseren en je waar nodig je verdienmodel op moet aanpassen.’ Andere juridische aspecten die aandacht verdienen, zijn het verwerken van persoonsgegevens (bijvoorbeeld bij het meten van de productiviteit van operators) en prijsvorming in de keten.

Toenemende onvoorspelbaarheid
Nu softwaresystemen van bedrijven vaker aan elkaar gekoppeld worden, wordt het gebruik van algoritmen onvoorspelbaarder. En omdat algoritmen steeds complexer en slimmer/zelflerend worden, is hun output eveneens lastiger te voorzien. ‘Dit bemoeilijkt afspraken over de aansprakelijkheid. In het Burgerlijk Wetboek wordt schade gelinkt aan het product of de bezitter; de vraag is of dit toepasbaar is op zelflerende algoritmen’, stelt Kamps. ‘Als je als ondernemer kiest voor algoritmen, moet je dus nadenken over risicoaansprakelijkheid en je daarvoor verzekeren. Verzekeraars hebben echter nog weinig ervaring met verkeerd geïnterpreteerde of toegepaste algoritmen en zijn waarschijnlijk nog huiverig. Wellicht dat straks, parallel aan de aanvullende cyberpolis, een informatiedeskundige het algoritme gaat beoordelen voor acceptatie in de verzekering.’

Koppelen van bronnen
In aanloop naar intensiever gebruik van AI wil Prins met YP een aantal stappen zetten. ‘Allereerst het koppelen van alle informatiebronnen, het nog beter virtualiseren van de fysieke werkelijkheid en tot slot vergaande integratie van de mens, wat wordt vergemakkelijkt dankzij mobiele telefoon en interconnectiviteit’, zegt hij. ‘Mensen moeten data invoeren en oorzaken gedisciplineerd terugkoppelen, dat is essentieel voor root cause analysis. Die datastroom is bovendien nodig om AI naar het niveau te brengen waarop geautomatiseerde processen mogelijk zijn. Van data naar actie, volledig geautomatiseerd.’

 

Dit artikel is gepubliceerd in Link Magazine van oktober 2019.

 

« Terug naar overzicht

Nieuwsbrief

Innovatiecluster Drachten maakt gebruik van cookies.
Innovatiecluster Drachten gebruikt cookies onder andere om de website te analyseren, te verbeteren en voor social media doeleinden. Door gebruik te blijven maken van deze website of door op akkoord knop te drukken, geef je aan akkoord te zijn met het gebruik van cookies op de websites van Innovatiecluster Drachten.