Kontinuierliche Verbesserungen des Terkin-Datenloggers (600er)

Ist nun auch mit dabei.

Hammer!
Ein entscheidender Meilenstein in Sachen Updates und Konfiguration im laufenden “Feld”- Einsatz.
Hab gestern Abend noch ein wenig ohne Erfolg Recherchiert wie es funktionieren könnte, und Du kommst schon mit der Lösung raus.
Bin Begeistert und enttäuscht zugleich, da ich die neue Funktionalität nicht gleich testen kann. Bin leider bis zum Wochenende unterwegs.

Genial! Danke

Super!

Ihr legt Mal wieder ein Wahnsinns Tempo vor, ich glaub ich werd zum Fan :rofl:

Das hatte bisher bei einigen schlimme Schmwerzen bereitet, ja. Vielen Dank für Eure Impulse. Ich hoffe nun klappt alles stromlinienförmiger bei der Inbetriebnahme.

Newsflash.

Update dependencies

Bei den aktuellen Inhalten im Repository hat sich gestern etwas an den Abhängigkeiten geändert. Um diese auf den aktuellen Stand zu bringen, hilft ein beherztes

git pull
make refresh-requirements

Das holt a) die aktuellen Abhängigkeiten aus dem Netz und füllt damit v.a. das lokale dist-packages-Verzeichnis im working tree und b) installiert sie korrekt auf dem per MCU_PORT adressierten Gerät. Das dist-packages-Verzeichnis auf dem Gerät wird dabei vorher platt gemacht, damit keine Divergenzen entstehen.

Changes to configuration settings

Auch ein Teil der Konfiguration hat sich geändert. Um Wartungsmodus für den Terkin-Datenlogger Rechnung zu tragen, kann man nun beide (Pseudo-)Intervalle konfigurieren – einmal das Meßintervall im Feld und einmal im Wartungsmodus.

Die Funktionalität ist aber abwärtskompatibel. Auch mit einer bisherigen settings.py sollte nichts schiefgehen. In diesem Fall wird für main.interval.maintenance 5.0 Sekunden angenommen.

# General settings.
main = {

    # Measurement intervals in seconds.
    # Todo: Please note this is not the _real thing_ yet at it will just use
    #       this value to apply to ``time.sleep()`` after each duty cycle.
    'interval': {
        
        # Use this interval if device is in field mode.
        'field': 5.0,
        
        # Apply this interval if device is in maintenance mode.
        # https://community.hiveeyes.org/t/wartungsmodus-fur-den-terkin-datenlogger/2274
        'maintenance': 2.0,
    },

    # ....
}
1 Like

More convenience.

MAC address formatting

Überblick

Die Ausgabe sollte möglichst immer im Format 80:7d:3a:c2:de:45 passieren, wie von ifconfig oder ip addr gewohnt. Die Eingabe sollte aus Komfortgründen beliebig sein können.

Firmware

Die MAC-Adressen des ESP32-WiFi Interfaces werden im Log folgendermaßen ausgegeben.

   15.9066 [terkin.network.wifi] INFO: 
           WiFi STA: Networking address (MAC): {'ap_mac': '80:7d:3a:c2:de:45', 'sta_mac': '80:7d:3a:c2:de:44'}

Tooling

Bei der Angabe eines bestimmten Geräts für den Wartungsmodus sind beliebige Formate möglich, z.B.

sudo python3 tools/terkin.py maintain 80-7D-3A-C2-DE-44
2019-07-12 16:12:41,207 [tools/terkin.py] INFO   : Waiting for any devices having MAC address prefixes of ['80:7d:3a:c2:de:44'] to appear on your local network
...
2019-07-12 16:12:59,259 [tools/terkin.py] INFO   : Found device at {'mac': '80:7d:3a:c2:de:44', 'ip': '192.168.178.44'}
2019-07-12 16:12:59,260 [tools/terkin.py] INFO   : Connecting to device mode server at 192.168.178.44:666
2019-07-12 16:12:59,260 [tools/terkin.py] INFO   : Pulling 192.168.178.44 into maintenance mode

Referenzen

1 Like

Unabhängig von [Backlog] Terkin-Datenlogger für BOB haben wir einige neue Themen auf den Tisch bekommen. Dieser Eintrag ist ein Wiki und kann gerne ggf. um weitere Details ergänzt werden.

SD/MMC Faktensammlung

Verbesserungen am HX711-Treiber

Cycling faster aka. Radeln mit Rückenwind

  • Auf Basis des MicroTerkin Agent wollen wir eine effizientere Übertragung der Quelltextdateien im Entwicklungsmodus per FTP ermöglichen.

Weitere Details

2 posts were merged into an existing topic: Strom sparen beim Einsatz der MicroPython-Firmware im Batteriebetrieb

Wie gesagt es würde viel ermöglichen. Man könnte z.B. Wetterdaten seperat an eine andere offentlicheres Ziele übertragen oder sogar die Balkon Imker variante mit 2 Beuten und nur einem Node nach Beep oder anderen zielen ermöglichen.
Auch werden Aktuell viele unnötige Daten, was System und Gewicht usw. angeht, übertragen was bei geringer Datenbandbreite Probleme und/oder höhere Betriebskosten verursachen würde.

1 Like

9 posts were merged into an existing topic: Troubleshooting the Sequans Modem on Pycom devices

On WSL I get, so in your instruction is an install command for lftp missing

root@XPS13-CGruber:/home/cgruber/hiveeyes/sources/hiveeyes-micropython-firmware# make install-ftp
lftp -u micro,python 192.168.178.26 < tools/upload-all.lftprc
/bin/sh: 1: lftp: not found
Makefile:57: recipe for target 'install-ftp' failed
make: *** [install-ftp] Error 127

So you should add
sudo apt-get install lftp

in the doc

1 Like

Watchdog updates

The watchdog subsystem has been improved through Improve Watchdog subsystem by adjusting to edge cases · hiveeyes/hiveeyes-micropython-firmware@1c7abf9 · GitHub so the watchdog timer is now adjusted for things like LTE modem deinit as well as the infamous maintenance mode. In practice, it looks like that.

Compensate for six seconds of LTE spinup/teardown

To be safe here, we propose a watchdog timeout of 15 seconds for covering the extended time the LTE modem needs to rest and mumble and crumble. When the configured watchdog timeout is lower than anticipated, the firmware takes account of that by bumping the value temporarily.

10.1499 [terkin.device            ] INFO   : Reset cause and wakeup reason: {'reset_cause': {'code': 0, 'message': 'PWRON'}, 'wakeup_reason': {'code': 0, 'message': 'PWRON'}}
10.1682 [terkin.watchdog          ] INFO   : Starting the watchdog timer (WDT) with timeout 10000ms
10.2253 [terkin.watchdog          ] INFO   : Reconfiguring watchdog timeout to 15000 milliseconds
10.2363 [terkin.device            ] INFO   : Turning off LTE modem
10.2470 [terkin.device            ] INFO   : Turning off LTE modem on boot
10.2577 [terkin.device            ] INFO   : Invoking LTE.deinit()
16.8252 [terkin.device            ] INFO   : Turning off Bluetooth
17.3399 [terkin.watchdog          ] INFO   : Resuming watchdog
17.3567 [terkin.watchdog          ] INFO   : Reconfiguring watchdog timeout to 10000 milliseconds
17.3713 [terkin.datalogger        ] INFO   : Starting BOB MicroPython Datalogger 0.5.1

Adjust watchdog timeout when lower than or near sleep time

When running without deep sleep, the watchdog timeout has to be adjusted to the measurement interval / duty cycle appropriately.

28.0322 [terkin.device            ] INFO   : Entering light sleep for 15.0 seconds
28.0489 [terkin.watchdog          ] WARNING: Reconfiguring original watchdog timeout 10.0 as it is smaller or near the configured sleep time 15.0
28.0650 [terkin.watchdog          ] INFO   : Reconfiguring watchdog timeout to 35000 milliseconds

Suspend watchdog when running in maintenance mode

The watchdog can’t be stopped once it’s started. So we “suspend” it by configuring the timeout to a reasonable large value when running in maintenance mode.

26.3070 [terkin.network.core      ] INFO   : Enabling maintenance mode
26.3223 [terkin.watchdog          ] INFO   : Suspending watchdog
26.3401 [terkin.watchdog          ] INFO   : Reconfiguring watchdog timeout to 999999999 milliseconds

Thanks

@pinguin was the first one who brought this to our attention and gave us an idea about how to care about that detail. Taking care of that is crucial for piece of mind to protect against eventual crashes in production.

Thanks a bunch!

1 Like

More updates.

Device discovery

@clemens makes Windows users happy with Change timeout value for ARP-Ping when pulling device into maintenance mode by ClemensGruber · Pull Request #14 · hiveeyes/hiveeyes-micropython-firmware · GitHub. Thanks!

Device provisioning

We closed some gaps by adding another helper

make connect-wifi ssid=<YourNetwork> password=<YourPassword>

to bring a device into the local network which has just been unboxed, see also Speed up provisioning and Makefile.

Sandbox improvements

@roh asked for some entry-level guide in form of a self-documenting Makefile and had strong opinions about a colored output. Et voilà.

All the details of "make help"
$ make
Available rules:

setup                         Prepare sandbox environment and download requirements
terkin-agent                  Run the MicroTerkin Agent, e.g. "make terkin-agent action=maintain"
connect-wifi                  Load the MiniNet module to the device and start a WiFi STA connection.
ip-address                    Load the MiniNet module to the device and get IP address.
install                       Install all files to the device, using rshell
install-ftp                   Install all files to the device, using FTP
install-ng                    Install all files to the device, using best method
install-pycom-firmware        Install Pycom firmware on device
format-flash                  Format flash filesystem with LittleFS
erase-fs                      Erase flash filesystem
list-serials                  List all serial interfaces
list-boards                   List all MicroPython boards
device-info                   Inquire device information
console                       Open console over serial or telnet
rshell                        Run interactive rshell on the device
repl                          Run interactive REPL on the device
reset-device                  Send reset command to device
reset-device-attached         Send reset command to device and keep the REPL shell attached

Bits and pieces

As always, a number of other improvements and bugfixes have been made. Thanks to all who contributed to that and enjoy the changelog.

2 Likes

Mit diesen Änderungen wurde gerade die Struktur des sensors-Abschnitt in der Konfigurationsdatei settings.example-bob.py geändert. Den Bereich "sensors.registry" gibt es nicht mehr, die Struktur auf Detailebene der Sensoreinträge ist zwar die gleiche geblieben, die Einträge wurden aber erweitert und auf die Anforderungen aus HTTP- und webbasierte Konfiguration für Terkin-Datenlogger (captive portal) vorbereitet.

Am besten man übernimmt die Änderungen 1:1 aus dem neuen Bereich "sensors.environment" der Blaupause, schaut dann nochmal über die selbst getätigten Einstellungen im Bereich "sensors.registry" drüber, übernimmt ggf. abweichende Einstellungen und löscht letzteren dann.

Falls die Rückwärtskompatibiliät (untested!) funktioniert, könnte es auch mit der alten Konfiguration funktionieren. Davon raten wir jedoch ab, weil neue Endpunkte der HTTP API die neue Konfigurationsstruktur voraussetzen werden.

Versuche gerade 2 BME280 an bus : i2c:0 zu betreiben.
allerdings habe ich probleme mit der in Settings.example.py vorgeschlagenen config.
wenn ich

 'bme280_1': {
        'enabled': True,
        'bus': 'i2c:0',
        'address': 0x76,
    },
 'bme280_2': {
        'enabled': True,
        'bus': 'i2c:0',
        'address': 0x77,
    },

Versuche wird gar kein Sensor erkannt.
wenn ich einen der beiden wie in der settings.example-bob.py

bme280': {

wird nur dieser Sensor erkannt. wenn ich beide so nenne wird der erste Sensor von dem 2. überschrieben.

werde gleich nochmal

'bme280': {{
        'enabled': True,
        'bus': 'i2c:0',
        'address': 0x76,
    },
    {
        'enabled': True,
        'bus': 'i2c:0',
        'address': 0x77,
    }},

testen. Befürchte aber, das das auch fehl schlägt.
jemand einen Tip?
Ich habe bisher noch nicht die stelle im code gefunden wo die einzelnen BME280 im Code erkannt werden.
wenn ich nach der datalogger.py zeile 114 gehe dürfte nur ‘BME280’ erkannt werden
bin jetzt noch nicht in Python so firm, da ein ‘BME280**’ draus zu machen.

Jeder Sensor am i2c-Bus muss eine eigene Adresse haben, sonst kann man sie nicht auslesen. Die BME280-Boards der Uni Bremen haben fest 0x77, kleinere von AZ-Delivery 0x76. Die Adresse ist nur durch Löten änderbar. Vielleicht gibt es ja andere breakout-Boards, bei denen die Adresse per Jumper einstellbar ist, wie z.B. beim AD-Wandler ADS1115, der mit einem AdressPin auf 4 Adressen einstellbar ist.
Fazit: wenn man mit mehreren BME280 an einem I2C-Bus messen will, müssen sie verschiedene Adressen haben.

Ja das weiß ich, daher ja 0x77 und 0x76 sind beide so gejumpert und können auch einzeln ausgelesen werden, aber halt nur, wenn ich denjenigen den ich auslesen will ‘BME280’ nenne und nicht anders.

Ok, mein Fehler,das du es so verstanden hast, habe oben den Code falsch angegeben zweimal 0x77 ist jetzt geändert.

 'bme280': [{
        'enabled': True,
        'bus': 'i2c:0',
        'address': 0x76,
    },
    {
        'enabled': True,
        'bus': 'i2c:0',
        'address': 0x77,
    }],

geht wie vermutet, auch nicht.
image
die sensoren werden übrigens an anderer stelle im Code einwandfrei erkannt, wenn der Bus gestartet wird.

OK geht jetzt, seit dem letzten Update.
Refactor "sensors"-section of configuration settings · hiveeyes/hiveeyes-micropython-firmware@2615d22 · GitHub
Habe knappe 10 min zu früh mein letztes Git Pull gemacht.:rofl:

{
        'key': 'bme280-1',
        'description': 'Temperatur und Feuchte außen',
        'type': 'BME280',
        'enabled': True,
        'bus': 'i2c:0',
        'address': 0x77,
    },
    {
        'key': 'bme280-2',
        'description': 'Temperatur und Feuchte innen',
        'type': 'BME280',
        'enabled': True,
        'bus': 'i2c:0',
        'address': 0x76,
    }

=
image

Exelent! Danke @Andreas. Hab oben gleich mal ein Fleißhäckchen gesetzt.

3 Likes

Da es mit dem BME280 so toll geklappt hat, hab ich mal versucht 2 HX711 gleichzeitig zu betreiben.
hat auch bis zu einem gewissen Maße geklappt. So wie es aussieht ließt er beide HX711 aus, schafft aber nicht den 2. HX711 auf ‘scale.1’ zu Mapen.

26.8398 [terkin.sensor.core       ] INFO   : Starting all busses [{'pin_scl': 'P10', 'number': 0, 'enabled': 
True, 'family': 'i2c', 'pin_sda': 'P9'}, {'enabled': True, 'pin_data': 'P11', 'number': 0, 'family': 'onewire'}]
26.9011 [terkin.sensor.core       ] INFO   : Found 2 I2C devices: [118, 119].
26.9197 [terkin.sensor.core       ] INFO   : Registering bus "i2c:0"
28.5114 [terkin.sensor.core       ] INFO   : Found 0 OneWire (DS18x20) devices: [].
28.5317 [terkin.sensor.core       ] INFO   : Registering bus "onewire:0"
28.5460 [terkin.datalogger        ] INFO   : Registering system sensors
28.5910 [hiveeyes.datalogger      ] INFO   : Registering Hiveeyes sensors
28.6210 [hiveeyes.datalogger      ] INFO   : Setting up HX711 sensor with key scale-1 described as "Waage 1"
29.4135 [hiveeyes.sensor_hx711    ] INFO   : Selected HX711 hardware driver "heisenberg"
29.4432 [hiveeyes.sensor_hx711    ] INFO   : Initializing HX711 sensor with pin_dout=P23, pin_pdsck=P3, gain=128, scale=4.424242, offset=-73000
29.4646 [hiveeyes.datalogger      ] INFO   : Setting up HX711 sensor with key scale-2 described as "Waage 2"
29.4841 [hiveeyes.sensor_hx711    ] INFO   : Selected HX711 hardware driver "heisenberg"
29.5118 [hiveeyes.sensor_hx711    ] INFO   : Initializing HX711 sensor with pin_dout=P22, pin_pdsck=P21, gain=128, scale=4.424242, offset=-73000
29.5353 [hiveeyes.datalogger      ] INFO   : Setting up DS18B20 sensor with key ds18b20-1 described as "Wabengasse 1"
29.5554 [hiveeyes.datalogger      ] INFO   : Skipping DS18B20 sensor ds18b20-1
29.5753 [hiveeyes.datalogger      ] INFO   : Setting up BME280 sensor with key bme280-1 described as "Temperatur und Feuchte außen"
29.5906 [terkin.sensor.core       ] INFO   : Trying to find bus by name "i2c:0"
29.6056 [terkin.sensor.core       ] INFO   : Found bus by name "i2c:0": <I2CBus object at 3f9af3e0>
29.6343 [hiveeyes.datalogger      ] INFO   : Setting up BME280 sensor with key bme280-2 described as "Temperatur und Feuchte innen"
29.6513 [terkin.sensor.core       ] INFO   : Trying to find bus by name "i2c:0"
29.6663 [terkin.sensor.core       ] INFO   : Found bus by name "i2c:0": <I2CBus object at 3f9af3e0>
29.6933 [terkin.sensor.core       ] INFO   : Sending power_on to sensor HX711Sensor
29.7082 [hiveeyes.sensor_hx711    ] INFO   : Powering up HX711
29.7226 [hx711                    ] INFO   : HX711 power up
29.7415 [terkin.sensor.core       ] INFO   : Sending power_on to sensor HX711Sensor
29.7576 [hiveeyes.sensor_hx711    ] INFO   : Powering up HX711
29.7722 [hx711                    ] INFO   : HX711 power up
29.7869 [terkin.datalogger        ] INFO   : --- loop ---
29.8031 [terkin.datalogger        ] INFO   : Reading 9 sensor ports
29.8181 [terkin.datalogger        ] INFO   : Reading sensor port "SystemMemoryFree"
29.8988 [terkin.datalogger        ] INFO   : Reading sensor port "SystemTemperature"
29.9683 [terkin.datalogger        ] INFO   : Reading sensor port "SystemBatteryLevel"
30.1006 [terkin.datalogger        ] INFO   : Reading sensor port "SystemUptime"
30.1169 [terkin.datalogger        ] INFO   : Reading sensor port "SystemWiFiMetrics"
30.1392 [terkin.datalogger        ] INFO   : Reading sensor port "HX711Sensor"
30.1553 [hx711                    ] INFO   : HX711 power up
30.1702 [hx711                    ] INFO   : Initialization started
30.1847 [hx711                    ] INFO   : Initialization succeeded
30.2444 [terkin.datalogger        ] INFO   : Reading sensor port "HX711Sensor"
30.2617 [hx711                    ] INFO   : HX711 power up
30.2763 [hx711                    ] INFO   : Initialization started
30.2908 [hx711                    ] INFO   : Initialization succeeded
30.3509 [terkin.datalogger        ] INFO   : Reading sensor port "BME280Sensor"
30.4554 [terkin.datalogger        ] INFO   : Reading sensor port "BME280Sensor"
30.7881 [terkin.datalogger        ] INFO   : Sensor data:

                                            humidity.0x76.i2c:0: 57.59
                                            humidity.0x77.i2c:0: 54.52
                                            pressure.0x76.i2c:0: 1012.34
                                            pressure.0x77.i2c:0: 1013.45
                                            scale.0.kg: 16500.0
                                            scale.0.offset: -73000
                                            scale.0.raw: 0.0
                                            scale.0.scale: 4.424242
                                            system.memfree: 2123232
                                            system.runtime: 16
                                            system.temperature: 43.21738
                                            system.time: 34
                                            system.uptime: 2926.344
                                            system.voltage: 2.2524
                                            system.wifi.bandwidth: 2
                                            system.wifi.channel: 11
                                            system.wifi.country: DE
                                            system.wifi.max_tx_power: 78
                                            system.wifi.rssi: -65
                                            temperature.0x76.i2c:0: 25.91
                                            temperature.0x77.i2c:0: 26.76
                                            weight.0: 16500.0

Settings:

 {
        'key': 'scale-1',
        'name': 'scale1',
        'description': 'Waage 1',
        'type': 'HX711',
        'enabled': True,
        'address': 0x00,
        'pin_dout': 'P23',
        'pin_pdsck': 'P3',
        'scale': 4.424242,
        'offset': -73000,
    },
    {
        'key': 'scale-2',
        'name': 'scale2',
        'description': 'Waage 2',
        'type': 'HX711',
        'enabled': True,
        'address': 0x00,
        'pin_dout': 'P22',
        'pin_pdsck': 'P21',
        'scale': 4.424242,
        'offset': -73000,
    },

Mit diesem Attribut kannst Du die Nummer angeben. Beim BME280 ist diese physisch, beim HX711 synthetisch – beides hat aber die gleichen Auswirkungen in Richtung Telemetriesubsystem, so dass das gewünschte passiert.

Mit Settings: Rename HX711 enumeration attribute from "address" to "number" · hiveeyes/hiveeyes-micropython-firmware@6ab4f56 · GitHub heißt das Attribut nun “number” und steht prominenter ganz oben im Konfigurationsblock [1], so dass es besser ins Auge fällt und semantischer leichter zugänglich ist (naming things).


  1. Todo: Details der Sensorkonfigurationsblöcke ausführlich kommentieren. ↩︎

1 Like

In der neuen Firmware-Version sind einzelne DS18B20 via settings.py an- und abschaltbar, ist das optional oder obligatorisch?

        'devices': {
            '1': {
                'enabled': True,
                #'offset': 0.42,
            },
            '2': {
                'enabled': True,
                #'offset': -0.42,
            },
        },

Früher konnte man einfach Sensoren dranhängen, ob 1 oder 5 oder 10 muss jetzt jeder explizit aufgeührt werden? Was ist 1, 2, sind das die Adressen / IDs, wie bei der BOB-Konfiguration? "temperature.28ff641d8fdae234.onewire:0": "t_i_1", also müsste ich oben statt 1 das eingeben 28ff641d8fdae234?