ownCloud-Docker-Image Update-Prozess

ownCloud Update 8.1 zu 9.1 [owncloud] [docker]

Man was war das für ein Abend neulich… Eigentlich wollte ich „nur“ von ownCloud 8.1.10 auf 9.1.3 aktualisieren. Dank Docker sollte das recht simpel sein. Da ich mir schon gedacht habe, dass es holprig wird, bin ich von Version zu Version gegangen. Erst auf Version 8.2.9 und dann auf 9.0.7, hier fingen dann die Probleme an. Während das Update ohne Fehler durchlief, konnte ich mich nicht mehr einloggen. Im Log laß ich dann: Base table or view not found: 1146 Table ‚oc_external_mounts‘ doesn’t exist

Fehler nach Update auf ownCloud 9.0.7

Na Klasse, da existiert irgendeine Tabelle nicht. Nach kurzem Googlen wusste ich dann, dass es an der App files_external liegt. Da ich diese meines Wissens nach nicht verwende, habe ich sie deaktiviert

Und schon konnte es weitergehen. Der letzte Schritt wäre jetzt ja sicher einfach getan, denn von Version 8.2.9 auf 9.0.7 wäre sicher ein größerer Sprung, als von 9.0.7 auf 9.1.3… Pustekuchen.

Fehler nach Update auf ownCloud 9.1.3

Direkt beim Update eine fette Meldung: Call to undefined method OCA\Federation\AppInfo\Application::setupCron() in /var/www/html/apps/federation/appinfo/update.php on line 23

Nach einigem Suchen bin ich darauf gestoßen, dass ein Update der Cloud im Docker doch nicht immer so ohne Aufwand aktualisiert werden kann. Kurzum: der apps-Ordner, der über ein Mapping eingebunden wird, muss halt mit den neuen Apps aus Version 9.1 gefüllt werden.

Nun sind die neuen Apps verfügbar und die Exception der federation-App sollte nicht mehr fliegen.

Bei mir lief das Update dann sauber durch, warum auch immer wurde der Maintenance-Mode aber aktiv gelassen.

Nach ca. einer Stunde war also alles aktualisiert und es läuft auch prima. Die Daten sind alle da, die User-Zugänge sind unverändert und die geteilten Inhalte sind ebenfalls noch da. Zusätzlich sind die Share-Links erhalten geblieben.

Docker statt vServer – Wie ich 770GB verloren habe

Ich habe vServer gemietet. Das ist eine tolle Sache. Dort kann ich tun und lassen was mir beliebt. Doch nicht für jeden Anwendungsfall muss gleich ein vServer her. Denn es gibt inzwischen Docker, dort entfällt eine Menge overhead, den so ein vServer mit sich bringt.

Ich habe ja den ein oder anderen Server und auch ein paar vServer. Damit ich vor Datenverlusten geweiht bin, habe ich einen Server dafür gemietet, sich um Backups zu kümmern. Die Anforderungen an diesen Backup-Server: Massiv Speicherplatz, möglichst günstig. Und so endete es in einem Server der mit 100Mbit Anbindung nicht der schnellste, aber mit 2x2TB (bewusst ohne RAID) viel Speicher hatte und günstig war. Da ich für Kunden ebenfalls Server sichern wollte habe ich mich vor über einem Jahr auf diesem Server dazu entschieden, zwei vServer aufzusetzen. Beide lediglich mit Backuppc ausgestattet. Und jeder vServer hatte seine eigene Festplatte. So konnte ich den Speicherbedarf gut regeln. Ich behaupte nicht dass dies die einzige Lösung ist/war aber es ging schnell und funktionierte.

Nun hat eine Festplatte defekte Sektoren bekommen und musste getauscht werden. Ich habe also den betroffenen vServer gestoppt und seine VDI auf einen anderen Server übertragen, was bei 770GB und der schwachen Anbindung etwa 30 Stunden dauerte. Dann wurde die Festplatte getauscht und ich habe die VDI wieder zurückgespielt (also nochmal etwa 30 Stunden). Resultat: Der vServer ließ sich nicht mehr booten. Die Datei ist beschädigt gewesen, sicherlich folgend aus den kaputten Festplattensektoren. Demnach: 770GB Datenmüll. Es ist nicht dramatisch, es handelte sich lediglich um ein Backup anderer Daten, die ja weiterhin auf ihrem Server lagen und funktionierten.

Ich hatte schon länger darüber nachgedacht, die zwei vServer zu deaktivieren und hier Docker in den Einsatz zu nehmen um beide Backuppc-Instanzen zu betreiben und auf die zwei verschiedenen Festplatten zu schreiben. Ich hatte nur nie einen Anlass dazu. Nun hatte ich bedarf und habe mich rangesetzt.

Fazit: Es läuft prima. Doch was ist jetzt der Unterschied?

Docker vs. Virtualisierung

Ich möchte darauf hinweisen, dass ich kein Virtualisierungs-Profi bin. Ebenso bin ich auch kein Docker-Profi. Ich habe konkrete Anwendungsfälle und benutzte dann eine passende Technik. Sobald es läuft und ich die Situation als „stabil“ einschätze, bin ich zufrieden.

Für mich gibt es zwischen Docker und Virtualisierung in dem obigen Beispiel einen gravierenden Unterschied: Durch das defekte VDI-File, habe ich nun 770GB Daten verloren. Mit Docker hätte ich sicherlich auch Daten verloren, aber eben nur jene, die in den entsprechenden Sektoren gespeichert wurden. Es ist davon auszugehen, dass ein Großteil der Daten erhalten geblieben wäre.

Ein weiterer Punkt ist das Thema Sicherheit: Ich habe natürlich quasi nie die vServer aktualisiert. Auch den Host nicht. Ich hatte einfach schiss, dass dann vbox nicht mehr startet oder irgendwas auf den vServern nicht mehr läuft. Demnach hatte ich einen Host und zwei vServer die potenziell angreifbar wären oder um die ich mich hätte potenziell kümmern müssen.

Nun mit Docker habe ich nur noch den Host. Die Container haben keine Möglichkeit den Host anzugreifen und die Container sind von außen lediglich über einen einzigen Port erreichbar. Mit jedem Update von Backuppc wird ein neues Image bereitgestellt, welches wiederum auf einem aktualisierten Linux-Image beruht und somit werden „Systemupdates“ implizit mit dem aktualisieren des Images eingespielt. Den Host werde ich fortan aktualisieren, ich betreibe einige Docker-Hosts und habe bisher noch nie erlebt, dass es zu einem Problem innerhalb eines Docker-Container kam, dadurch dass ich den Host aktualisiert hätte…

Einfache Wartung: Ich habe ein Script geschrieben welches beide Docker-Instanzen gleichzeitig verwaltet. Ich gebe in dem Script das Basis-Image und einige weitere Parameter an. Und dann kann ich mein Script aufruren und ein Update ausführen, die Container stoppen / starten oder in die Logs schauen. Alle Aktionen werden dann auf beiden Containern ausgeführt. Das ist praktisch und spart Zeit.

Plesk Onyx – ERROR: Zend_Db_Adapter_Exception: SQLSTATE[HY000] [2002] No such file or directory

Für die Entwicklung einiger eigener Plesk Extensions habe ich einen vServer gemietet auf dem ein Plesk Onyx läuft. Neulich gab es da 100 Paket-Updates und ich hab sie mal machen lassen. Kurz darauf der Schreck: Plesk funktionierte nicht mehr. Die Meldung: ERROR: Zend_Db_Adapter_Exception: SQLSTATE[HY000] [2002] No such file or directory. Und nun?

Ich habe im Internet gelesen und versucht. Nichts half. Etwa 10 Minuten nach dem „Update“-Klick wusste ich, das mysql nicht lief. Etwa 30 Minuten später wusste ich was los war:

Ergab:

Es gab also irgendwelche Probleme mit dem Pfad „/var/lib/mysql-files“. Ich habe geprüft was darin ist und wollte schauen ob die Berechtigungen passen… Der Ordner existierte nicht! OK, daran wird es wohl liegen, doch wo bekomme ich den Ordner her und was gehört da rein.

Die Lösung ist simpel

Ganz ehrlich, ich habe das folgende im Netz als Kommentar gelesen und wollte einfach nicht daran glauben dass es wirklich hilft:

Also: Einfach Ordner anlegen, Dateiberechtigungen setzen und schon startet MySQL wieder.

Im Plesk fand ich einen gelben Warnhinweis, dass ein update nicht lief wie geplant und ich doch bitte die Reperatur (link) starten solle. Geklickt, gewartet: Fertig.

ownCloud – „from source“ in Docker Container [owncloud] [docker]

Die eigene Cloud-Lösung dank ownCloud ist eine tolle Sache. Ich habe ja so einige Server. Sowohl im „Managed Service“, also bei denen sich professionelle Serveradmins um das System kümmern als auch einige andere, bei denen ich mich selbst drum kümmere (eigene Systeme wie bspw. ownCloud, bei denen es sich aus kostengründen so ergibt).

Ich betreibe unter anderem eine ownCloud Instanz auf einem der Server die ich halt selbst verwalte. Und noch andere Systeme. Was immer wieder schwierig für mich ist: Zugriffsrechte. Ich habe mich damit anscheinend noch nicht ausgiebig genug bei Linux beschäftigt. Daher hat es eine ganze Weile gedauert, bis die ownCloud wie gewünscht lief.

Nun habe ich etwas Sorge gehabt, als ein anderes System auf dem Server PHP 5.6 brauchte. Da ich nicht weiß, wie ich mehrere PHP Versionen parallel betreibe, habe ich einfach von PHP 5.4 auf PHP 5.6 umgestellt. Eben mit der Sorge, dass dadurch andere Systeme ggf. Schwierigkeiten bekommen.

Um solche Sorgen nicht mehr zu haben, möchte ich schon seit langem alle Anwendungen dieses Servers in eigene Docker Container umziehen. Mit Docker habe ich mich hier auf dem Blog schon beschäftigt. Ich finde die Idee von Docker genial und habe ja auch seid kurzem meine eigene private Docker Registry.

Docker Container einrichten

Bevor ich groß mit Dateien hantieren wollte, habe ich die Docker Container aufgesetzt. Dazu schreibe ich mit immer ein anwendung.sh-Bash-Script, also in dem Fall owncloud.sh

Nun vergesse ich nie wieder wie ich diese container konfiguriert habe. Kommt eine neue Version von ownCloud, kann ich einfach oben den Image-Namen ändern und das Script erneut ausführen. Praktisch!

Ich habe das Script ausgeführt und auf meine neue Cloud per http://host:81 zugegriffen. Ich wollte sehen, ob alles funktioniert. Der Installations-Wizard war zu sehen, demnach: Läuft.

Datenbank einspielen

Ein spannender Punkt. Denn ich habe ja, wie oben im Script zu erkennen, einen Docker Container für MySQL eingerichtet. Wie bekomme ich da jetzt also die Datenbank rein?

Ich habe mich dazu entschieden, ein SQL-File zu exportieren und dieses in das Docker Volume zu schieben sowie die Berechtigungen richtig zu setzen.

Nun konnte der Datenbankimport stattfinden, vorher muss natürlich erst eine neue DB angelegt werden. Beides geht in jeweils einem einzigen Aufruf:

Konfiguration übernehmen

Nachdem nun die Datenbank steht, muss natürlich die neue ownCloud-Installation mit der Datenbank verbunden werden bzw. generell die ganze Konfiguration übertragen werden.

Damit allerdings nicht getan, die Konfiguration muss geprüft werden. Denn es hat sich zumindest der Datenbank-Host geändert. Die Datenbank findet man nun nicht mehr auf „localhost“, sondern über den Host „mysql“ (siehe Docker Link im Installationsscript).

Daten übernehmen

Tja und als letzter Schritt fehlt nur noch, die Daten zu übernehmen.

Nun ist meine neue ownCloud-Installation Testbereit.

ownCloud umschalten

Nach den Tests kann ich den vHost im Apache des Server einfach als Redirect auf den Port 81 (siehe Port-Mapping im Docker-Script) konfigurieren. Dann ist automatisch meine schöne URL nutzbar, der Apache fungiert in dem Moment einfach als Proxy.

In meinem Fall ist wie gesagt ein Apache im Einsatz, das ganze lässt sich natürlich mit nginx auch realisieren. Diesen habe ich allerdings noch nicht oft eingesetzt und habe hier also zu einem vertrauten Mittel gegriffen.

Und schon kann ich meine Cloud über den Browser aufrufen und bedienen.

Sentry – Warte nicht auf Fehlermeldungen von Anwendern

Eines der Tools, die Du nicht kennst, aber ab jetzt lieben wirst, ist Sentry. Denn Sentry übernimmt für dich einen wesentlichen Teil der Programmierung, über den du sicherlich noch nicht mal nachgedacht hast.

Mir zumindest ging es so. Auf der Suche nach einem Log-Sammel-System, sodass ich unterschiedliche Log-Dateien von verschiedenen Applikationen auf verschiedenen Servern zentral an einer Stelle abrufen und auswerten kann, bin ich auf die Webseite von Sentry gestoßen und kurz hängen geblieben.

Sentry’s real-time error tracking gives you insight into production deployments and information to reproduce and fix crashes.

Vorab-Info: Ich schreibe recht ausführlich. Es ist mir wichtig zu zeigen warum ich einen Mehrwert in dieser Technik sehe. Auf die Tool-Handhabung an sich gehe ich nicht großartig ein.

Worum geht es?

Wann genau bekommst du mit, dass eine deiner Anwendungen einen (schweren) Fehler hatte und ein User nicht wie gewohnt arbeiten konnte oder gar ein CronJob nicht funktionsfähig ist? Ich selbst bekomme das in zwei Momenten mit:

  1. Ich selbst merke, dass irgendwas nicht stimmt (bester Fall)
    1. Cron-Ergebnis fehlt oder
    2. Ich sehe einen Fehler beim benutzen der Anwendung
  2. Ein Anwender merkt, dass irgendwas nicht stimmt (schlechtester Fall)

Aus zwei Gründen ist der zweite Fall der schlechteste Fall.

  1. Der Anwender hats gemerkt und
  2. Anwender können nur sehr selten vollqualifizierte Fehlermeldungen abgeben

Und genau darum geht es: Gute Fehlermeldungen.

Sentry wird dich natürlich nicht darüber informieren, dass deine Webanwendung auf einem 1024*768px Monitor eines Windows XP basierten Systems mit FireFox 1 eine Textüberlagerung hat. Nein, darum geht es nicht. Aber dass eine JavaScript-Exception in dieser Konstellation fliegt oder auf einem deiner Server ein CronJob an Heilig Abend um fast Mitternacht eine PHP Exception geschmissen hat, dass wirst du dann in Echtzeit per E-Mail, SMS, Chat oder Slack usw. mitbekommen.

Und nein: Sentry unterstützt nicht nur JavaScript und PHP.

Wie kann ich diese Technik nutzen?

Entweder Du beziehst den SaaS (es gibt auch ein Free-Packet) oder hostest selbst eine Instanz. Letzteres war mir anfangs gar nicht bewusst und so habe ich den SaaS derzeit in zwei Projekten im Einsatz, mit dem etwas mulmigen Gefühl was ich immer habe, wenn ich irgendwo einen Gratis-Service ziehe und externe Sachen in meine Tools einbinde. Vergangene Woche habe ich dann mitbekommen dass Sentry Open Source ist und habe mir freudig am Wochenende einen eigenen Server aufgesetzt.

Für welche Sprachen / Techniken kann ich Sentry einsetzen?

Hier eine Liste der Sprachen, die Sentry unterstützt bzw. bestehende Integrationen hat (Stand 10.10.2016):

  • C#
  • Coca
  • Elixir
  • Go
  • Java
  • JavaScript
  • Node.js
  • Objective-C
  • PHP
  • Python
  • Ruby

Noch besser lesen sich die Frameworks in denen Sentry ganz einfach eingebunden werden kann:

  • net/http
  • App Engine
  • Log4j
  • Log4j 2
  • Logback
  • Angular 1
  • Angular 2
  • Backbone
  • Ember
  • React
  • Vue
  • Connect
  • Express
  • Koa
  • Laravel
  • Monolog
  • Symfony2
  • Bottle
  • Django
  • Flask
  • Pylons
  • Pyramid
  • RQ
  • Tornado
  • Rack
  • Rails

Kurzgesagt: Sentry könnt ihr in fast jedem Projekt einsetzen. Und diese Liste ist nur der aktuelle Stand. Andauernd kommen neue Integrationen dazu.

Wie funktioniert es?

Ich selbst habe die Technik nun seid einigen Wochen in zwei Projekten im Einsatz. Ein Laravel-Projekt (in Entwicklung und auch schon Produktiv) und ein nw.js-Projekt (in Entwicklung).

Bei Laravel bspw. sind es einige wenige Handgriffe, schon ist der passende Server verbunden.

  1. Laravel-Abhängigkeit über einen composer-Befehl installieren
  2. einen Provider und einen Alias in der config/app.php Eintragen
  3. Sentry als zusätzliches Reporting in der Datei App/Exceptions/Handler.php erfassen
  4. Abschließend kann nun pro Instnaz der Applikation über die .env-Datei der Sentry DSN konfiguriert werden

Die ersten drei Schritte gelten für alle Instanzen der Applikation der vierte Schritt wird pro Instanz ausgeführt, also quasi beim Setup.

Wie die verschiedenen Sentry SKDs in den verschiedenen Programmiersprachen / Frameworks eingesetzt werden, wird in der Dokumentation sehr übersichtlich beschrieben.

Und wie schaut das jetzt aus?

So weit so gut. Vielleicht sagst Du jetzt auch: „Wow, viel zu kompliziert“. Ich habe beim ersten Projekt auch gut überlegt ob ich mir so einen „Klotz“ ans Bein binden will. Nun werde ich es nahezu immer einsetzen.

Ich zeige dir jetzt auch ein paar Eindrücke, anhand derer du erkennst, warum Exception-Tracking wichtig ist. Die Anwendungsfälle entsprechen realen Szenarien die ich in den vergangenen Wochen hatte, daher sind es nicht so viele.

Anwendungsfall 1: Exception während AJAX Request

Ich habe ein Formular programmiert, es hat genau drei Felder. In dem ersten Feld wird eine Bestell-ID eingegeben. In dem zweiten Feld wird ein Zahlbetrag eingegeben und im dritten Feld kann eine Bemerkung angefügt werden. Der Handhabung halber lade ich nach Eingabe der Bestell-ID lädt ein JavaScript per AJAX den zu zahlenden Betrag und fügt diesen in das zweite Feld ein. Das funktionierte in den Testfällen alles gut.

Eines Morgens rufe ich E-Mails ab und bekomme eine Meldung über Sentry. Eine Exception wurde in der PHP-Funktion, die den Zahlbetrag für den AJAX-Request ermittelt, geschmissen. Die Bestellung für die der Zahlbetrag ermittelt werden soll, wurde nicht gefunden. Das hatte ich so nicht abgefangen.

Dem Anwender ist dies nicht aufgefallen. Er schaut nicht in die Browser-Konsole. In dem Feld für den Zahlbetrag steht immer 0, außer der AJAX-Request ermittelt halt einen anderen Wert. In diesem Falle wurde gar kein Wert ermittelt (ERR 500) und so blieb es „0“. Der Anwender hat einfach den passenden Betrag eingegeben und weitergemacht.

Mit dem nächsten Update habe ich den Fehler, von dem der Anwender nichts wusste, behoben und die Anwendung somit stabiler gemacht.

Wichtigste Informationen: Browser, Gerät, Level, …

Direkte Anzeige des Quellcode und der Zeile, in der die Exception geflogen ist.

Zusätzliche Informationen über den Kontext.

Und in diesem Moment war mir dann auch klar, was genau der Fehler war. Die Bestell-ID wurde kopiert, inkl. einem Leerzeichen am Ende (siehe das „verrückte“ Komma). Nun war klar was ich zu tun hatte.

Anwendungsbeispiel 2: Offensichtliche Störung – nicht gemeldet

Dieses Beispiel kommt dann dem Punkt nahe, dass der User sehr wohl mitbekommt, dass etwas nicht läuft, aber auch nichts weiter meldet. Genau das wird wahrscheinlich oft vorkommen: Keiner Meldet einen Fehler und schmunzelt über das instabile System.

Gleiches Projekt wie Anwendungsfall 1. Was genau der Fehler ist weiß ich selbst noch nicht, habe im Internet nachgelesen und eine Idee was ich ändern kann. Muss es halt nur noch mal prüfen. Na jedenfalls fliegt eine TokenMismatchException von Laravel und so sieht dass dann aus:

Grundlegende Informationen zum System

Grundlegende Informationen zum System

Quellcode-Informationen - Wo fliegt der Fehler?

Quellcode-Informationen – Wo fliegt der Fehler?

Kontext der Anfrage - Stark maskiert - Datenschutz

Kontext der Anfrage – Stark maskiert – Datenschutz

Interessant hierbei für mich: Der Token stimmt angeblich nicht, ist aber gesetzt. Nun weiß ich zumindest genau, dass alle erwarteten Inputs vorhanden sind und es eine „echte“ Anfrage war.

Meldungs-SPAM durch Bots?

Nein. In Sentry kann man Anfragen rausfiltern. Und die Liste bekannter Bots ist standardmäßig komplett rausgefiltert. Filtern kann man:

  • Errors von localhost / 127.0.0.1
  • Errors bei denen bekannt ist, dass sie durch gewisse Browser-Erweiterungen entstehen
  • Errors bei denen bekannt ist, dass sie durch das verwenden von Legacy-Browsern entstehen
  • Errors von Bots / Web-Crawlern

Fazit

Sentry wird mir helfen, meine Software besser im Blick zu behalten, ohne auch nur eine Sekunde lang Logfiles kontrollieren zu müssen. Sobald etwas dramatisches passiert, kann ich mich -in meinem Fall- per Mail benachrichtigen lassen. Dann weiß ich, dass ich aktiv werden sollte.

Auf diesem Weg sammle ich als Entwickler noch mehr Erfahrung für meine künftigen Projekte.