Unter GitHub - Billwilliams1952/KY-040-Encoder-Library---Arduino: Arduino library for the KY-040 Encoder wird für den KY-040 ein cap auf der clock line empfohlen:
The KY-040 encoder library uses interrupts on the clock line. Because of switch bounces, a 470 nF (0.47 uF) capacitor is required on each encoder clock (CLK) pin to ground.
Falls du @RoSch einen Kondensator im Bereich 470 nF rumliegen hast wäre es prima, wenn du testen könntest, ob das Problem damit immer noch auftritt.
Noch etwas in Richtung Hardware von Ollie's Workshops: Rotary Encoder with Switch :
In case of a metal shaft and a metal knob, the static charge can cause additional problems.
Verwendest du den Rotary mit knob oder drehst du momentan direkt an der Achse? Falls ja und du einen Knopf da hast, versuche dem mal zu verwenden. Der auf der Teileliste verlinkte KY-040 hat einen Metall-Knopf, ist innen aber aus Konststoff, d.h. mit dem Knopf sollte statische Aufladung weniger ein Problem sein.