Kontinuierliche Verbesserungen des Terkin-Datenloggers (600er)

Bee Observer BOB Entwicklung
, , ,
63

Vielen Dank für die Analyse. Daher hakte es wohl bei mir :P. Mit den aktuellsten Änderungen sollte es jetzt klappen.

$ export MCU_PORT=192.168.178.168
$ make console

Connecting via telnet to 192.168.178.168. Please enter User: micro, Password: python
expect -c 'spawn telnet 192.168.178.168; expect "*?ogin as:*"; sleep 0.2; send -- "micro\r"; expect "*?assword:*"; sleep 0.2; send -- "python\r"; interact;'
spawn telnet 192.168.178.168
Trying 192.168.178.168...
Connected to 192.168.178.168.
Escape character is '^]'.
MicroPython v1.9.4-0a38f88 on 2019-05-14; FiPy with ESP32
Login as: micro
Password:
Login succeeded!
Type "help()" for more information.

>>> from terkin import __appname__, __version__; print(__appname__, __version__)
terkin-datalogger 0.5.1

:warning: Hinweis: Die Umgebungsvariable heißt ab sofort MCU_PORT, die Abwärtskompatibilität zu MCU_SERIAL_PORT sollte jedoch erhalten geblieben sein.

64

Konfiguration

'ds18x20': {
    'bus': 'onewire:0',
    'devices': {
        '28ff641d8fdf18c1': {
            'enabled': False,
            'offset': 0.42,
        },
        '28ff641d8fc3944f': {
            'enabled': True,
            'offset': -0.42,
        },
    }
}

Die Konfiguration ist derzeit leider leicht redundant zur sensor_telemetry_map. Wir bitten um Verständnis.

Ausgabe

   32.3776 [terkin.datalogger        ] INFO   : Reading sensor port "DS18X20Sensor"
   32.3964 [hiveeyes.sensor_ds18x20  ] INFO   : Acquire readings from all DS18X20 sensors attached to bus onewire:0
   32.4157 [hiveeyes.sensor_ds18x20  ] INFO   : Skipping DS18X20 device 28ff641d8fdf18c1
   32.4348 [hiveeyes.sensor_ds18x20  ] INFO   : Reading DS18X20 device 28ff641d8fc3944f
   33.2526 [hiveeyes.sensor_ds18x20  ] INFO   : Adding offset -0.42 to value 21.875 from sensor 28ff641d8fc3944f
65

Ist nun auch mit dabei.

66

Hammer!
Ein entscheidender Meilenstein in Sachen Updates und Konfiguration im laufenden “Feld”- Einsatz.
Hab gestern Abend noch ein wenig ohne Erfolg Recherchiert wie es funktionieren könnte, und Du kommst schon mit der Lösung raus.
Bin Begeistert und enttäuscht zugleich, da ich die neue Funktionalität nicht gleich testen kann. Bin leider bis zum Wochenende unterwegs.

Genial! Danke

Super!

Ihr legt Mal wieder ein Wahnsinns Tempo vor, ich glaub ich werd zum Fan :rofl:

67

Das hatte bisher bei einigen schlimme Schmwerzen bereitet, ja. Vielen Dank für Eure Impulse. Ich hoffe nun klappt alles stromlinienförmiger bei der Inbetriebnahme.

68

Newsflash.

Update dependencies

Bei den aktuellen Inhalten im Repository hat sich gestern etwas an den Abhängigkeiten geändert. Um diese auf den aktuellen Stand zu bringen, hilft ein beherztes

git pull
make refresh-requirements

Das holt a) die aktuellen Abhängigkeiten aus dem Netz und füllt damit v.a. das lokale dist-packages-Verzeichnis im working tree und b) installiert sie korrekt auf dem per MCU_PORT adressierten Gerät. Das dist-packages-Verzeichnis auf dem Gerät wird dabei vorher platt gemacht, damit keine Divergenzen entstehen.

Changes to configuration settings

Auch ein Teil der Konfiguration hat sich geändert. Um Wartungsmodus für den Terkin-Datenlogger Rechnung zu tragen, kann man nun beide (Pseudo-)Intervalle konfigurieren – einmal das Meßintervall im Feld und einmal im Wartungsmodus.

Die Funktionalität ist aber abwärtskompatibel. Auch mit einer bisherigen settings.py sollte nichts schiefgehen. In diesem Fall wird für main.interval.maintenance 5.0 Sekunden angenommen.

# General settings.
main = {

    # Measurement intervals in seconds.
    # Todo: Please note this is not the _real thing_ yet at it will just use
    #       this value to apply to ``time.sleep()`` after each duty cycle.
    'interval': {
        
        # Use this interval if device is in field mode.
        'field': 5.0,
        
        # Apply this interval if device is in maintenance mode.
        # https://community.hiveeyes.org/t/wartungsmodus-fur-den-terkin-datenlogger/2274
        'maintenance': 2.0,
    },

    # ....
}
1 Like
69

More convenience.

MAC address formatting

Überblick

Die Ausgabe sollte möglichst immer im Format 80:7d:3a:c2:de:45 passieren, wie von ifconfig oder ip addr gewohnt. Die Eingabe sollte aus Komfortgründen beliebig sein können.

Firmware

Die MAC-Adressen des ESP32-WiFi Interfaces werden im Log folgendermaßen ausgegeben.

   15.9066 [terkin.network.wifi] INFO: 
           WiFi STA: Networking address (MAC): {'ap_mac': '80:7d:3a:c2:de:45', 'sta_mac': '80:7d:3a:c2:de:44'}

Tooling

Bei der Angabe eines bestimmten Geräts für den Wartungsmodus sind beliebige Formate möglich, z.B.

sudo python3 tools/terkin.py maintain 80-7D-3A-C2-DE-44

2019-07-12 16:12:41,207 [tools/terkin.py] INFO   : Waiting for any devices having MAC address prefixes of ['80:7d:3a:c2:de:44'] to appear on your local network
...
2019-07-12 16:12:59,259 [tools/terkin.py] INFO   : Found device at {'mac': '80:7d:3a:c2:de:44', 'ip': '192.168.178.44'}
2019-07-12 16:12:59,260 [tools/terkin.py] INFO   : Connecting to device mode server at 192.168.178.44:666
2019-07-12 16:12:59,260 [tools/terkin.py] INFO   : Pulling 192.168.178.44 into maintenance mode

Referenzen

1 Like
70

Unabhängig von [Backlog] Terkin-Datenlogger für BOB haben wir einige neue Themen auf den Tisch bekommen. Dieser Eintrag ist ein Wiki und kann gerne ggf. um weitere Details ergänzt werden.

SD/MMC Faktensammlung

Verbesserungen am HX711-Treiber

Cycling faster aka. Radeln mit Rückenwind

  • Auf Basis des MicroTerkin Agent wollen wir eine effizientere Übertragung der Quelltextdateien im Entwicklungsmodus per FTP ermöglichen.

Weitere Details

71

2 posts were merged into an existing topic: Strom sparen beim Einsatz der MicroPython-Firmware im Batteriebetrieb

73

Wie gesagt es würde viel ermöglichen. Man könnte z.B. Wetterdaten seperat an eine andere offentlicheres Ziele übertragen oder sogar die Balkon Imker variante mit 2 Beuten und nur einem Node nach Beep oder anderen zielen ermöglichen.
Auch werden Aktuell viele unnötige Daten, was System und Gewicht usw. angeht, übertragen was bei geringer Datenbandbreite Probleme und/oder höhere Betriebskosten verursachen würde.

1 Like
74

9 posts were merged into an existing topic: Troubleshooting the Sequans Modem on Pycom devices

83

On WSL I get, so in your instruction is an install command for lftp missing

root@XPS13-CGruber:/home/cgruber/hiveeyes/sources/hiveeyes-micropython-firmware# make install-ftp
lftp -u micro,python 192.168.178.26 < tools/upload-all.lftprc
/bin/sh: 1: lftp: not found
Makefile:57: recipe for target 'install-ftp' failed
make: *** [install-ftp] Error 127

So you should add
sudo apt-get install lftp

in the doc

1 Like
84

Watchdog updates

The watchdog subsystem has been improved through Improve Watchdog subsystem by adjusting to edge cases · hiveeyes/hiveeyes-micropython-firmware@1c7abf9 · GitHub so the watchdog timer is now adjusted for things like LTE modem deinit as well as the infamous maintenance mode. In practice, it looks like that.

Compensate for six seconds of LTE spinup/teardown

To be safe here, we propose a watchdog timeout of 15 seconds for covering the extended time the LTE modem needs to rest and mumble and crumble. When the configured watchdog timeout is lower than anticipated, the firmware takes account of that by bumping the value temporarily.

10.1499 [terkin.device            ] INFO   : Reset cause and wakeup reason: {'reset_cause': {'code': 0, 'message': 'PWRON'}, 'wakeup_reason': {'code': 0, 'message': 'PWRON'}}
10.1682 [terkin.watchdog          ] INFO   : Starting the watchdog timer (WDT) with timeout 10000ms
10.2253 [terkin.watchdog          ] INFO   : Reconfiguring watchdog timeout to 15000 milliseconds
10.2363 [terkin.device            ] INFO   : Turning off LTE modem
10.2470 [terkin.device            ] INFO   : Turning off LTE modem on boot
10.2577 [terkin.device            ] INFO   : Invoking LTE.deinit()
16.8252 [terkin.device            ] INFO   : Turning off Bluetooth
17.3399 [terkin.watchdog          ] INFO   : Resuming watchdog
17.3567 [terkin.watchdog          ] INFO   : Reconfiguring watchdog timeout to 10000 milliseconds
17.3713 [terkin.datalogger        ] INFO   : Starting BOB MicroPython Datalogger 0.5.1

Adjust watchdog timeout when lower than or near sleep time

When running without deep sleep, the watchdog timeout has to be adjusted to the measurement interval / duty cycle appropriately.

28.0322 [terkin.device            ] INFO   : Entering light sleep for 15.0 seconds
28.0489 [terkin.watchdog          ] WARNING: Reconfiguring original watchdog timeout 10.0 as it is smaller or near the configured sleep time 15.0
28.0650 [terkin.watchdog          ] INFO   : Reconfiguring watchdog timeout to 35000 milliseconds

Suspend watchdog when running in maintenance mode

The watchdog can’t be stopped once it’s started. So we “suspend” it by configuring the timeout to a reasonable large value when running in maintenance mode.

26.3070 [terkin.network.core      ] INFO   : Enabling maintenance mode
26.3223 [terkin.watchdog          ] INFO   : Suspending watchdog
26.3401 [terkin.watchdog          ] INFO   : Reconfiguring watchdog timeout to 999999999 milliseconds

Thanks

@pinguin was the first one who brought this to our attention and gave us an idea about how to care about that detail. Taking care of that is crucial for piece of mind to protect against eventual crashes in production.

Thanks a bunch!

1 Like
85

More updates.

Device discovery

@clemens makes Windows users happy with Change timeout value for ARP-Ping when pulling device into maintenance mode by ClemensGruber · Pull Request #14 · hiveeyes/hiveeyes-micropython-firmware · GitHub. Thanks!

Device provisioning

We closed some gaps by adding another helper

make connect-wifi ssid=<YourNetwork> password=<YourPassword>

to bring a device into the local network which has just been unboxed, see also Speed up provisioning and Makefile.

Sandbox improvements

@roh asked for some entry-level guide in form of a self-documenting Makefile and had strong opinions about a colored output. Et voilà.

image
image.png710×362 48.8 KB

All the details of "make help" 
$ make
Available rules:

setup                         Prepare sandbox environment and download requirements
terkin-agent                  Run the MicroTerkin Agent, e.g. "make terkin-agent action=maintain"
connect-wifi                  Load the MiniNet module to the device and start a WiFi STA connection.
ip-address                    Load the MiniNet module to the device and get IP address.
install                       Install all files to the device, using rshell
install-ftp                   Install all files to the device, using FTP
install-ng                    Install all files to the device, using best method
install-pycom-firmware        Install Pycom firmware on device
format-flash                  Format flash filesystem with LittleFS
erase-fs                      Erase flash filesystem
list-serials                  List all serial interfaces
list-boards                   List all MicroPython boards
device-info                   Inquire device information
console                       Open console over serial or telnet
rshell                        Run interactive rshell on the device
repl                          Run interactive REPL on the device
reset-device                  Send reset command to device
reset-device-attached         Send reset command to device and keep the REPL shell attached

Bits and pieces

As always, a number of other improvements and bugfixes have been made. Thanks to all who contributed to that and enjoy the changelog.

2 Likes
87

Mit diesen Änderungen wurde gerade die Struktur des sensors-Abschnitt in der Konfigurationsdatei settings.example-bob.py geändert. Den Bereich "sensors.registry" gibt es nicht mehr, die Struktur auf Detailebene der Sensoreinträge ist zwar die gleiche geblieben, die Einträge wurden aber erweitert und auf die Anforderungen aus HTTP- und webbasierte Konfiguration für Terkin-Datenlogger (captive portal) vorbereitet.

Am besten man übernimmt die Änderungen 1:1 aus dem neuen Bereich "sensors.environment" der Blaupause, schaut dann nochmal über die selbst getätigten Einstellungen im Bereich "sensors.registry" drüber, übernimmt ggf. abweichende Einstellungen und löscht letzteren dann.

Falls die Rückwärtskompatibiliät (untested!) funktioniert, könnte es auch mit der alten Konfiguration funktionieren. Davon raten wir jedoch ab, weil neue Endpunkte der HTTP API die neue Konfigurationsstruktur voraussetzen werden.

88

Versuche gerade 2 BME280 an bus : i2c:0 zu betreiben.
allerdings habe ich probleme mit der in Settings.example.py vorgeschlagenen config.
wenn ich

 'bme280_1': {
        'enabled': True,
        'bus': 'i2c:0',
        'address': 0x76,
    },
 'bme280_2': {
        'enabled': True,
        'bus': 'i2c:0',
        'address': 0x77,
    },

Versuche wird gar kein Sensor erkannt.
wenn ich einen der beiden wie in der settings.example-bob.py

bme280': {

wird nur dieser Sensor erkannt. wenn ich beide so nenne wird der erste Sensor von dem 2. überschrieben.

werde gleich nochmal

'bme280': {{
        'enabled': True,
        'bus': 'i2c:0',
        'address': 0x76,
    },
    {
        'enabled': True,
        'bus': 'i2c:0',
        'address': 0x77,
    }},

testen. Befürchte aber, das das auch fehl schlägt.
jemand einen Tip?
Ich habe bisher noch nicht die stelle im code gefunden wo die einzelnen BME280 im Code erkannt werden.
wenn ich nach der datalogger.py zeile 114 gehe dürfte nur ‘BME280’ erkannt werden
bin jetzt noch nicht in Python so firm, da ein ‘BME280**’ draus zu machen.

89

Jeder Sensor am i2c-Bus muss eine eigene Adresse haben, sonst kann man sie nicht auslesen. Die BME280-Boards der Uni Bremen haben fest 0x77, kleinere von AZ-Delivery 0x76. Die Adresse ist nur durch Löten änderbar. Vielleicht gibt es ja andere breakout-Boards, bei denen die Adresse per Jumper einstellbar ist, wie z.B. beim AD-Wandler ADS1115, der mit einem AdressPin auf 4 Adressen einstellbar ist.
Fazit: wenn man mit mehreren BME280 an einem I2C-Bus messen will, müssen sie verschiedene Adressen haben.

90

Ja das weiß ich, daher ja 0x77 und 0x76 sind beide so gejumpert und können auch einzeln ausgelesen werden, aber halt nur, wenn ich denjenigen den ich auslesen will ‘BME280’ nenne und nicht anders.

Ok, mein Fehler,das du es so verstanden hast, habe oben den Code falsch angegeben zweimal 0x77 ist jetzt geändert.

 'bme280': [{
        'enabled': True,
        'bus': 'i2c:0',
        'address': 0x76,
    },
    {
        'enabled': True,
        'bus': 'i2c:0',
        'address': 0x77,
    }],

geht wie vermutet, auch nicht.
image
die sensoren werden übrigens an anderer stelle im Code einwandfrei erkannt, wenn der Bus gestartet wird.

91

OK geht jetzt, seit dem letzten Update.
Refactor "sensors"-section of configuration settings · hiveeyes/hiveeyes-micropython-firmware@2615d22 · GitHub
Habe knappe 10 min zu früh mein letztes Git Pull gemacht.:rofl:

{
        'key': 'bme280-1',
        'description': 'Temperatur und Feuchte außen',
        'type': 'BME280',
        'enabled': True,
        'bus': 'i2c:0',
        'address': 0x77,
    },
    {
        'key': 'bme280-2',
        'description': 'Temperatur und Feuchte innen',
        'type': 'BME280',
        'enabled': True,
        'bus': 'i2c:0',
        'address': 0x76,
    }

=
image

Exelent! Danke @Andreas. Hab oben gleich mal ein Fleißhäckchen gesetzt.

3 Likes
92

Da es mit dem BME280 so toll geklappt hat, hab ich mal versucht 2 HX711 gleichzeitig zu betreiben.
hat auch bis zu einem gewissen Maße geklappt. So wie es aussieht ließt er beide HX711 aus, schafft aber nicht den 2. HX711 auf ‘scale.1’ zu Mapen.

26.8398 [terkin.sensor.core       ] INFO   : Starting all busses [{'pin_scl': 'P10', 'number': 0, 'enabled': 
True, 'family': 'i2c', 'pin_sda': 'P9'}, {'enabled': True, 'pin_data': 'P11', 'number': 0, 'family': 'onewire'}]
26.9011 [terkin.sensor.core       ] INFO   : Found 2 I2C devices: [118, 119].
26.9197 [terkin.sensor.core       ] INFO   : Registering bus "i2c:0"
28.5114 [terkin.sensor.core       ] INFO   : Found 0 OneWire (DS18x20) devices: [].
28.5317 [terkin.sensor.core       ] INFO   : Registering bus "onewire:0"
28.5460 [terkin.datalogger        ] INFO   : Registering system sensors
28.5910 [hiveeyes.datalogger      ] INFO   : Registering Hiveeyes sensors
28.6210 [hiveeyes.datalogger      ] INFO   : Setting up HX711 sensor with key scale-1 described as "Waage 1"
29.4135 [hiveeyes.sensor_hx711    ] INFO   : Selected HX711 hardware driver "heisenberg"
29.4432 [hiveeyes.sensor_hx711    ] INFO   : Initializing HX711 sensor with pin_dout=P23, pin_pdsck=P3, gain=128, scale=4.424242, offset=-73000
29.4646 [hiveeyes.datalogger      ] INFO   : Setting up HX711 sensor with key scale-2 described as "Waage 2"
29.4841 [hiveeyes.sensor_hx711    ] INFO   : Selected HX711 hardware driver "heisenberg"
29.5118 [hiveeyes.sensor_hx711    ] INFO   : Initializing HX711 sensor with pin_dout=P22, pin_pdsck=P21, gain=128, scale=4.424242, offset=-73000
29.5353 [hiveeyes.datalogger      ] INFO   : Setting up DS18B20 sensor with key ds18b20-1 described as "Wabengasse 1"
29.5554 [hiveeyes.datalogger      ] INFO   : Skipping DS18B20 sensor ds18b20-1
29.5753 [hiveeyes.datalogger      ] INFO   : Setting up BME280 sensor with key bme280-1 described as "Temperatur und Feuchte außen"
29.5906 [terkin.sensor.core       ] INFO   : Trying to find bus by name "i2c:0"
29.6056 [terkin.sensor.core       ] INFO   : Found bus by name "i2c:0": <I2CBus object at 3f9af3e0>
29.6343 [hiveeyes.datalogger      ] INFO   : Setting up BME280 sensor with key bme280-2 described as "Temperatur und Feuchte innen"
29.6513 [terkin.sensor.core       ] INFO   : Trying to find bus by name "i2c:0"
29.6663 [terkin.sensor.core       ] INFO   : Found bus by name "i2c:0": <I2CBus object at 3f9af3e0>
29.6933 [terkin.sensor.core       ] INFO   : Sending power_on to sensor HX711Sensor
29.7082 [hiveeyes.sensor_hx711    ] INFO   : Powering up HX711
29.7226 [hx711                    ] INFO   : HX711 power up
29.7415 [terkin.sensor.core       ] INFO   : Sending power_on to sensor HX711Sensor
29.7576 [hiveeyes.sensor_hx711    ] INFO   : Powering up HX711
29.7722 [hx711                    ] INFO   : HX711 power up
29.7869 [terkin.datalogger        ] INFO   : --- loop ---
29.8031 [terkin.datalogger        ] INFO   : Reading 9 sensor ports
29.8181 [terkin.datalogger        ] INFO   : Reading sensor port "SystemMemoryFree"
29.8988 [terkin.datalogger        ] INFO   : Reading sensor port "SystemTemperature"
29.9683 [terkin.datalogger        ] INFO   : Reading sensor port "SystemBatteryLevel"
30.1006 [terkin.datalogger        ] INFO   : Reading sensor port "SystemUptime"
30.1169 [terkin.datalogger        ] INFO   : Reading sensor port "SystemWiFiMetrics"
30.1392 [terkin.datalogger        ] INFO   : Reading sensor port "HX711Sensor"
30.1553 [hx711                    ] INFO   : HX711 power up
30.1702 [hx711                    ] INFO   : Initialization started
30.1847 [hx711                    ] INFO   : Initialization succeeded
30.2444 [terkin.datalogger        ] INFO   : Reading sensor port "HX711Sensor"
30.2617 [hx711                    ] INFO   : HX711 power up
30.2763 [hx711                    ] INFO   : Initialization started
30.2908 [hx711                    ] INFO   : Initialization succeeded
30.3509 [terkin.datalogger        ] INFO   : Reading sensor port "BME280Sensor"
30.4554 [terkin.datalogger        ] INFO   : Reading sensor port "BME280Sensor"
30.7881 [terkin.datalogger        ] INFO   : Sensor data:

                                            humidity.0x76.i2c:0: 57.59
                                            humidity.0x77.i2c:0: 54.52
                                            pressure.0x76.i2c:0: 1012.34
                                            pressure.0x77.i2c:0: 1013.45
                                            scale.0.kg: 16500.0
                                            scale.0.offset: -73000
                                            scale.0.raw: 0.0
                                            scale.0.scale: 4.424242
                                            system.memfree: 2123232
                                            system.runtime: 16
                                            system.temperature: 43.21738
                                            system.time: 34
                                            system.uptime: 2926.344
                                            system.voltage: 2.2524
                                            system.wifi.bandwidth: 2
                                            system.wifi.channel: 11
                                            system.wifi.country: DE
                                            system.wifi.max_tx_power: 78
                                            system.wifi.rssi: -65
                                            temperature.0x76.i2c:0: 25.91
                                            temperature.0x77.i2c:0: 26.76
                                            weight.0: 16500.0

Settings:

 {
        'key': 'scale-1',
        'name': 'scale1',
        'description': 'Waage 1',
        'type': 'HX711',
        'enabled': True,
        'address': 0x00,
        'pin_dout': 'P23',
        'pin_pdsck': 'P3',
        'scale': 4.424242,
        'offset': -73000,
    },
    {
        'key': 'scale-2',
        'name': 'scale2',
        'description': 'Waage 2',
        'type': 'HX711',
        'enabled': True,
        'address': 0x00,
        'pin_dout': 'P22',
        'pin_pdsck': 'P21',
        'scale': 4.424242,
        'offset': -73000,
    },