Nucleus-LogoKern
‹ Alle Anwendungsfälle
Glätten · übersetzter SEO-Cache

Übersetzte Seiten, die Crawler heute sehen.

Flatten stellt Suchmaschinen und KI-Crawlern eine fertige Kopie jeder übersetzten Seite zur Verfügung. Diese Kopie ist nur so lange nützlich, wie sie mit der Live-Website übereinstimmt. Hierbei handelt es sich um denselben Cache, der sich gleichzeitig auf zwei Standorten befindet: einer wird von Nucleus und Dispatch aktuell gehalten, der andere von einem Cronjob, den ein Ingenieur eingerichtet hat. Es handelt sich dabei auch um eine Produktlücke, die das Außendienstteam geschlossen und an echten Kunden getestet hat, bevor sich das Produktteam zu irgendetwas verpflichten musste.

Aktuell 99.84 % stündlich in die Warteschlange stellen Modell ruft 0 an Kosten / Laufzeit 0 $
Nucleus + Dispatch
99.84 % aktuell · 20,694 von 20,728 URLs
Nur 34 Stück, zuletzt flachgedrückt: innerhalb weniger Stunden
Handgefertigter Cronjob
23.8 % aktuell · 2,014 von 8,474 URLs
6,460 veraltete , älteste Darstellung: vor 7 Monaten
01

Was Flatten für eine übersetzte Website leistet

GlobalLink Web übersetzt die Website eines Kunden in jede Sprache, in der er seine Produkte verkauft. Der Browser des Nutzers lädt die Übersetzung beim Laden der Seite. Bei Crawlern sieht die Sache anders aus: Viele Such- und KI-Crawler lesen den HTML-Code und verlassen die Seite, ohne die Skripte auszuführen. Sie würden also das unübersetzte Original sehen.

Ohne Abflachen

Ein Webcrawler fordert die deutsche Seite an.

  • Es ruft den HTML-Quelltext ab, die Übersetzung muss jedoch noch angewendet werden.
  • Das Skript, das es anwendet, wird nicht ausgeführt.
  • Es indexiert englischen Text auf einer deutschen URL
  • Die übersetzte Seite ist in der deutschen Suche kaum zu finden.

✓ Mit Abflachen

Die Übersetzung wurde bereits erstellt.

  • Jede übersetzte URL wird einmal im Voraus gerendert.
  • Der fertige HTML-Code ist bereits in deutscher Sprache im Cache.
  • Den Crawlern wird diese zwischengespeicherte Kopie sofort angezeigt.
  • Die Such- und KI-Antworten zeigen die Seite auf Deutsch an.
nicht zwischengespeichertEingetragen

Die URL ist im Cache bekannt, wurde aber noch nicht gerendert.

in der WarteschlangeWarten auf die Darstellung

Für den Renderer in der Warteschlange. URLs verschieben sich nicht von selbst hierher.

zwischengespeichertStrom

Crawler erhalten eine Übersetzung der Seite, wie sie jetzt vorliegt.

abgestandenVeraltet

Die Quellseite hat sich nach dem Rendern geändert, daher erhalten Crawler weiterhin die alte Version.

Die Plattform erkennt, wenn sich eine Quellseite ändert, und kennzeichnet ihre zwischengespeicherten Kopien als veraltet . Es rendert sie nicht von selbst neu. Irgendetwas muss sie wieder in die Warteschlange zurückbringen. Neue Seiten müssen registriert werden, bevor sie überhaupt angezeigt werden können. Jeder Kunde braucht jemanden oder etwas, das das tut, und zwar auf unbestimmte Zeit. Auf dieser Seite geht es darum, wer oder was das tut.
02

Welche Kosten ein veralteter Cache für den Kunden verursacht

Eine veraltete Seite sieht nicht defekt aus. Es wird die zuletzt erstellte Übersetzung angezeigt, sodass es niemandem auffällt, bis ein Kunde auf Deutsch sucht und den Katalog der letzten Saison findet.

Falsche Fakten

Alte Preise, alte Produkte

Ein aus dem Sortiment genommenes Produkt, der Preis des letzten Quartals oder eine abgelöste Police bleiben in jeder Sprache indexiert, und zwar so lange, wie der Cache veraltet ist, nicht nur bis zum nächsten Crawl.

Fehlende Seiten

Neue Seiten, die nie erscheinen

Eine Seite, die nie registriert wurde, wird nie gerendert, sodass die Startseite oder die neue Produktlinie in der Suche überhaupt nicht übersetzt erscheint.

KI-Antworten

Assistenten zitieren die alte Seite

KI-Crawler lesen immer dieselbe zwischengespeicherte Kopie, daher werden Antworten zur Marke in anderen Sprachen aus Inhalten erstellt, die der Kunde bereits ersetzt hat.

Einkaufs- und Händlerzentrum

Wenn eine veraltete Seite Sie einen Markt kostet

Ein Online-Shop sendet Google Merchant Center einen Produktfeed für jedes Land mit Preis und Verfügbarkeit. Anschließend durchsucht Google die Landingpage jedes Produkts und prüft, ob die Seite mit dem Feed übereinstimmt. Bei einem übersetzten Shop erhält der Crawler, der diese Prüfung durchführt, die Flatten-Kopie.

Falls die deutsche Version veraltet ist, wird auf der deutschen Seite noch der Preis der letzten Saison angezeigt oder es heißt, ein wieder aufgefüllter Artikel sei ausverkauft. Das Produkt wird aufgrund von Preis- oder Verfügbarkeitsabweichungen abgelehnt. und es verschwindet aus den Shopping-Anzeigen und kostenlosen Einträgen in Deutschland. Das ist der Markt, den die Übersetzung eigentlich erobern sollte.

Wenn automatische Artikelaktualisierungen aktiviert sind, kann das Ergebnis noch schlimmer sein: Google kann den Eintrag neu schreiben, um ihn an die gecrawlten Daten anzupassen, und den Käufern den veralteten Preis anzeigen. Anhaltende Diskrepanzen können auch das gesamte Merchant Center-Konto gefährden.

Produktfeed · DE Reisematte, schwarz 79,00 € Auf Lager
≠
Landingpage von Google gecrawlt · gerendert vor 7 Monaten Reisematte, schwarz 89,00 € Ausverkauft
Abgelehnt · Preis- und Verfügbarkeitsabweichungen · Deutschland
Bei aktuellem Cache sieht der Crawler die heutige Seite, der Feed stimmt überein und der Eintrag bleibt aktiv.
03

Zwei Caches, ein Moment lang, wurden auf veraltet gefiltert.

Beide Ansichten stammen vom produkteigenen Flattening-Bildschirm, wobei der Statusfilter auf „veraltet“ eingestellt ist. Die unten aufgeführten Hostnamen und Pfade werden durch erfundene Namen gleicher Form ersetzt, die Anzahl und das Alter bleiben unverändert.

Website für Unternehmenssoftware

34 von 20,728 URLs
Sechs lokale Domänen · verwaltet von Nucleus + Dispatch
URL Letzter vereinfachter Zustand
kr.example.com/events vor 10 Stunden Veraltet
kr.example.com/partners/program vor 8 Stunden Veraltet
www.example.de/learning/certs letzte Stunde Veraltet
www.example.de/legal/addendum Vor 7 Stunden Veraltet
www.example.es/events ( vor 10 Stunden) Veraltet
… 29 weitere Stunden, nicht Monate

E-Commerce-Website für Bekleidung

6,460 von 8,474 URLs
Produktkatalog · gepflegt durch einen manuell erstellten Cronjob
URL Letzter vereinfachter Zustand
www.example-shop.com/ Vor 3 Monaten (Veraltet)
…/de-de/products/travel-mat-black vor 7 Monaten Veraltet
…/de-de/products/trucker-hat-white vor 7 Monaten Veraltet
…/de-de/products/mat-towel-espresso vor 7 Monaten Abgestanden
…/de-de/products/headband-red vor 7 Monaten Veraltet
… 6,455 weitere , meist Monate

Momentaufnahme zu einem bestimmten Zeitpunkt. Die Anzahl veralteter Daten in einem intakten Cache schwankt im Laufe des Tages, da sich die Website ändert und die stündliche Aktualisierung der Warteschlange die Daten aktualisiert.

Der gesunde Cache ist größer, erstreckt sich über mehr Domänen und ändert sich täglich, und er ist dennoch fast vollständig aktuell. Die vorhandenen veralteten Seiten sind stundenweise veraltet, da sie beim nächsten stündlichen Lauf erneut in die Warteschlange gestellt werden . Auf der anderen Website sind drei von vier Seiten veraltet, und die Renderings werden in Monaten gemessen. Sieben Monate sind eine ausreichend lange Zeit, damit sich ein Produktkatalog komplett verändert hat.
04

Drei Arbeitsabläufe, zwei Uhren, kein Modell

Das Aktualisieren des Caches lässt sich auf zwei Aufgaben reduzieren, die unterschiedliche Kosten verursachen. Man findet neue oder geänderte Seiten, indem man die Sitemaps des Kunden liest, was der langsame Teil ist. Die andere Methode reiht alle Elemente, die die Plattform bereits als veraltet markiert hat, erneut in die Warteschlange ein; dies erfordert einen Aufruf. Jeder Workflow läuft nach seinem eigenen Zeitplan, und ein dritter Workflow berichtet über beide.

Wiederhole die bereits veralteten Elemente in der Warteschlange.

stündlich

Ein einziger Aufruf verschiebt alle veralteten und nicht zwischengespeicherten URLs in die Warteschlange . Es nimmt niemals Kontakt zur Website des Kunden auf, sodass der Bot-Schutz der Website es weder verlangsamen noch blockieren kann. Deshalb sind veraltete Seiten hier nur Stunden alt und nicht Monate.

Abflachen · nach Status neu rendern

Entdecken Sie neue und geänderte Seiten

alle 6 Stunden

Für jede der sechs Gebietsschema-Domänen liest der Workflow die Sitemap, behält nur Seiten bei, die in den letzten 12 Stunden geändert wurden (das Doppelte des Intervalls, damit bei einem späten Durchlauf nichts verpasst wird), prüft jede Seite anhand der eigenen Bereichsregeln des Projekts und registriert, was im Bereich liegt. Es laufen jeweils drei Domains gleichzeitig. Wenn eine Domäne ausfällt, werden die anderen fünf dennoch abgeschlossen.

fetch_sitemap › match_scope › jq · urls › add_urls_to_flatten × 6 domains

Berichten Sie über jedes Ergebnis, einschließlich Misserfolge.

ob erfolgreich oder nicht

Der Bericht ist kein Schritt am Ende des Scans, denn ein letzter Schritt wird nur ausgeführt, wenn alles vorhergehende funktioniert hat, und er würde genau bei den Läufen, die wichtig sind, keine Ausgabe liefern. Es handelt sich um einen separaten Workflow, der durch den Abschluss der beiden anderen Prozesse ausgelöst wird, unabhängig davon, ob diese erfolgreich waren oder nicht . Die Ergebnisse werden im Slack-Kanal des Teams veröffentlicht.

jq · compose › slack · post
Werkzeugaufruf über Nucleus lokale Datenschritte auf der Box
27 Schritte in drei Arbeitsabläufen, und keiner davon ruft ein Modell auf . Freshness hat eine richtige Antwort: Eine Seite ist entweder veraltet oder aktuell und entweder relevant oder nicht. Die Tools berechnen das Ergebnis jedes Mal auf die gleiche Weise. Der Zeitplan ist stündlich, da die Durchführung keine zusätzlichen Kosten verursacht. Da für keinen der Schritte ein Modell oder ein lokales System benötigt wird, könnten die gleichen Schritte genauso gut als Nucleus-Workflow in der Cloud erstellt werden. Es läuft hier auf Dispatch, wo es die gleichen Nucleus-Tools aufruft.
05

Eine Lücke im Produkt, die aus dem Feld geschlossen wurde.

Schauen Sie sich noch einmal an, was diese Arbeitsabläufe bewirken. Flatten kennzeichnet Seiten als veraltet, reiht sie aber nicht erneut in die Warteschlange ein und kann neue Seiten nicht selbstständig in einer Sitemap finden. Normalerweise handelt es sich dabei um einen Funktionswunsch, der im Backlog verbleibt, während das Produktteam entscheidet, ob genügend Kunden ihn benötigen. Mit Nucleus schlossen die Mitarbeiter, die mit den Kunden arbeiteten, die Lücke selbst – mit Tools und Arbeitsabläufen anstelle von Produktcode. Jeder Lauf seitdem hat Beweise erbracht.

01 · das FeldFinde die Lücke

Die übersetzten Seiten eines Kunden veralten, und nichts im Produkt bewirkt, dass sie wieder in die Warteschlange aufgenommen werden.

02 Tage, keine VeröffentlichungFüllen Sie es mit Werkzeugen

Die eigene API des Produkts ist bereits in Nucleus als Tool verfügbar. Ein Workflow ordnet sie an, und es wird nichts im Produkt versendet.

03 · echte KundenTesten Sie es in der Produktion

Es läuft für die Kunden, die es jetzt brauchen, wobei jeder Lauf und jedes Ergebnis jedes Schrittes aufgezeichnet wird.

04 · das ProduktteamBau es mit den Daten.

Entscheide dich für die Funktion, wenn du weißt, wer sie benötigt, wie oft sie ausgeführt werden soll und wo Fehler auftreten können, oder lass sie aus.

Was der Prozess lehrte, war, dass ein Spezialist nicht
Es wurde festgestellt, dass eine stündliche Aktualisierung der Warteschlange einen Cache mit 20.000 URLs zu 99.84 % aktuell hielt. Eine vergleichbare Website ohne einen solchen Wert lag bei 23.8%.
Daher benötigt die Funktion eine automatische Wiedereinreihung veralteter Seiten im Produkt selbst. Ein Stundensatz reicht oft aus, und er kostet fast nichts.
Bei einem Kunden wurde festgestellt , dass der Bot-Schutz Sitemap-Abrufe komplett ablehnt, sodass die Erkennung fehlschlägt, während die erneute Abfrage weiterhin funktioniert.
Die Funktion erfordert daher, dass Discovery und Requeue als separate Jobs durchgeführt werden. Die erneute Warteschlange sollte niemals davon abhängen, ob die Website des Kunden erreicht wird.
Bei einem Kunden wurden in seiner Sitemap nur URLs in der Quellsprache aufgelistet, während die 13 Sprachen auf separaten Subdomains zu finden sind.
Die Funktion benötigt also eine Discovery-Funktion, die jede Quell-URL jedem lokalen Host zuordnet, und nicht nur die URLs, die in der Sitemap aufgeführt sind.
Bei beobachteten fehlgeschlagenen Renderings wird überhaupt kein HTTP-Status angezeigt, und einige als fehlgeschlagen markierte Seiten werden in einem echten Browser einwandfrei geladen.
Daher benötigt die Funktion eine echte Überprüfung der fehlerhaften Seiten, bevor irgendjemand darauf reagiert. Ein Statusfilter kann diese Fälle niemals erfassen.
Es wurde festgestellt, dass ein Entdeckungsfenster gleich dem Laufintervall war, das immer dann Seiten ausließ, wenn ein Lauf verspätet begann.
Die Funktion benötigt also ein Rückblickfenster von etwa dem Doppelten des Intervalls, das erst gefunden werden kann, wenn der Job nach realen Zeitplänen ausgeführt wird.
Diesen Vorteil übersieht man leicht. Nucleus ermöglicht es denjenigen, die den Kunden am nächsten stehen , jetzt einen Nischenbedarf zu decken, ohne auf einen Fahrplan warten zu müssen . Ein Kunde mit 13 lokalen Subdomains und einer reinen Quelltext-Sitemap erhielt einen zusätzlichen Workflow-Schritt, jedoch keine Eskalation des Produkts. Gleichzeitig erhält das Produktteam etwas, was ein Backlog-Ticket niemals leisten kann: eine funktionierende Lösung, die an echten Kunden getestet wurde und bei der die Grenzfälle bereits identifiziert sind. Es kann die Funktion entwickeln, wenn es weiß, dass sie benötigt wird, oder sie im Feld belassen, wenn sich herausstellt, dass sie eine Nischenfunktion darstellt.
06

Fehler bei Cronjobs bleiben unbemerkt. Das sind sie nicht.

Ein Cronjob schlägt nicht fehl, weil kein Zeitplan existiert. Das System scheitert, weil, sobald der Ingenieur das Unternehmen verlässt, niemand mehr weiß, wann die Arbeit nicht mehr funktioniert. Im obigen Screenshot sind bis zu sieben Monate alte Renderings zu sehen, die belegen, dass niemand darüber informiert wurde.

Die traditionelle Aufstellung

Ein Skript auf einem Server, einmal geschrieben

  • Es gehört demjenigen, der es geschrieben hat, bis dieser weiterzieht.
  • Ein Fehler wird in einer Protokolldatei protokolliert, sofern vorhanden.
  • Eine neue Region, eine verschobene Sitemap oder ein neuer Bot-Schutz bedeuten eine Codeänderung.
  • Es speichert die Zugangsdaten direkt, unter keinem bestimmten Namen.
  • Das erfährt man aus der veralteten Zählung, Monate später.
Nucleus + Dispatch

Arbeitsabläufe, die jeder lesen und ändern kann

  • Jeder Durchlauf sowie die Ein- und Ausgaben jedes einzelnen Schritts werden gespeichert und sind einsehbar.
  • Jedes Ergebnis, auch Misserfolge, wird im Kanal des Teams veröffentlicht.
  • Ein neuer Standort ist ein kopierter Schritt, und ein neuer Zeitplan ist eine Bearbeitung.
  • Jeder Anruf wird von Nucleus als namentlich genannter Inhaber autorisiert und protokolliert.
  • Du erfährst es innerhalb einer Stunde in Slack.
07

Für die Einrichtung einer neuen Website wird kein Ingenieur benötigt.

Da die Flatten-Tools in Nucleus integriert sind und die Engine Dispatch ist, ist das Hinzufügen eines Kunden nur eine kurze Konversation. Ein Onboarding-Agent fragt nach Dingen, die er nicht sicher erraten kann, wie zum Beispiel den Projektschlüssel und die Sitemap, anstatt sie abzuleiten. Anschließend wird bei der Registrierung der URLs auf die Genehmigung durch eine Person gewartet, die den gesamten Batch abdeckt, egal wie viele tausend URLs er enthält.

Vom Laptop

Claude

Integrieren Sie diese Website in Flatten, überprüfen Sie alle sechs Stunden die Sitemaps, stellen Sie veraltete Seiten stündlich neu in die Warteschlange und posten Sie die Ergebnisse im Kanal #web-ops.
Ich benötige den Projektschlüssel und die Sitemap-URL. Ich werde auch nicht raten. Sobald ich sie habe, werde ich den Import als Testlauf durchführen, damit Sie die Anzahl vor der Genehmigung überprüfen können.
Vom Telefon

Die Dispatch-App

Genehmigung erforderlich · 3,198 URLs für XXXX-XXXX-XXXX-XXXX registrieren

Ein Fingertipp genügt, um die Charge zu genehmigen. Von dort aus können Sie den für den nächsten Kunden festgelegten Workflow kopieren, einen Zeitplan ändern oder die einzelnen Schritte jedes Durchlaufs live verfolgen.

Vom Kanal

Locker

/flatten-requeue example-shop
412 veraltete URLs wurden zur erneuten Darstellung in die Warteschlange gestellt.

Ein Slash-Befehl startet denselben Workflow, der auch durch den Zeitplan ausgeführt wird, sodass jeder, der ein Problem bemerkt, es über den Kanal beheben kann.

Genau darum geht es bei dem Vergleich. Der intakte Cache wurde nicht dadurch intakt gehalten, dass ein besserer Entwickler ein besseres Skript geschrieben hätte. Es wird durch Automatisierung in einem stabilen Zustand gehalten, die jeder mit Zugriff einrichten, lesen und ändern kann , die kostenlos nach einem Zeitplan läuft und ihre eigenen Fehler meldet. Die Kunden erhalten übersetzte Seiten, die stets aktuell sind, und die Arbeit ist nicht mehr darauf angewiesen, dass jemand Zeit hat, Code zu schreiben und zu pflegen.
Der Unterschied

99.84% aktuell, wird durch die Konfiguration so gehalten, kann aber von jedem geändert werden.