You are viewing a single comment's thread from:

RE: Opening an issue to discuss the Condenser/Hivemind problem ... and to find a solution

in Steem Dev4 months ago

Du Held, Du! Auf der einen Seite wundert es mich, daß noch keiner der beiden was geäußert hat. Auf der anderen Seite wundert mich viel mehr, daß es immer noch neue erstaunte Anfragen gibt von Leuten, denen die Probleme jetzt erst auffallen. Dieses Steem-Universum ist und bleibt rätselhaft ;-))

Sort:  
 4 months ago (edited)

Danke, mich wundert es ebenfalls. Leider fällt es aber auch mir schwer, jetzt zu sagen, wann es eigentlich angefangen hat. Vielleicht hast du dazu ja einen Tipp. Es wäre zur Einordnung der Fehlerquellen schon hilfreich. Ich würde bald meinen, dass wir schon vor Dezember 2023 Schwierigkeiten hatten. Irgendwo wird es sicher Kommentare oder Posts dazu geben, die man durch unsere bekannten Such-Tools bestimmt auch finden kann, aber vielleicht ist dir da auf Anhieb was im Gedächtnis.

Mir fielen auch ein paar Gründe ein, warum es manchen (vielen?) nicht auffällt, wenn keine oder wenige Kommentare angezeigt werden, aber wer will schon wieder so negativ denken ;-)

Eigenartig, dass mir dein Post erst nach drei Tagen auffällt und das auch nur, weil @pennsif ihn in seinen News dankenswerterweise erwähnt hat. Ich schau täglich in meinen Feed, dass ich deinen Post übersehen habe ist unwahrscheinlich aber nicht unmöglich :-)

Jedenfalls super, dass du bei der Geschichte dran bleibst! Leider kam bisher keine Reaktion von @ety001, @justyy oder sonst jemand, der sich auskennt.

Hab gerade einen kleinen Nebeneffekt entdeckt:
image.png
Nach dem Vote auf weisser-rabe sein Kommentar machte es "wups" und - dein Kommentar wird wie von Geisterhand sichtbar. Spooky Steemit ;-)

Auf steemit wurden mir übrigens ausschließlich Kommentare der ersten Ebene angezeigt, alles andere lost in space...

 4 months ago 

Tja, es ist verrückt. Das Verhalten ist so unstetig. Es lässt sich nicht nachvollziehen.
Wo du es schreibst: Habe das mal anhand anderer Beiträge überprüft, es werden nur Kommentare der ersten Ebene angezeigt... bis die Kommentare oder der Post ausgezahlt werden. Dann wird nämlich der aktuelle Content von der Blockchain geholt.

Das passiert übrigens auch unmittelbar nach einem Vote. Deshalb siehst du dann auch sowohl den aktuellen Vote-Betrag als auch die Replies. Wenn du dann neu lädst... schwups... sind sie wieder weg...

Wie ich schon remlaps schrieb, vermute ich ganz stark, dass die Kommunikation mit dem steemd-Knoten nicht mehr reibungslos funktioniert. Soweit ich herausgefunden habe, verarbeitet der von steemit keine batch-requests mehr, also mehrere requests in einer Abfrage:
Wie dies zum Beispiel:
[{"jsonrpc":"2.0","id":1,"method":"condenser_api.get_content","params":["remlaps","re-moecki-202437t19729701z"]}, {"jsonrpc":"2.0","id":2,"method":"condenser_api.get_content","params":["michelangelo3","sa1m6v"]}]
Das wird in Hivemind an verschiedenen Stellen gemacht. Sicherlich um die Abfragezahl zu reduzieren. Wenn man so eine Abfrage aber an api.steemit.com schickt, gibt's einen Fehler. Nun weiß ich natürlich nicht, ob dies schon immer so war. Ich meine, das würde man in den logs sehen, aber es spricht ja keiner mit uns...

ety001 hat zumindest das Issue auf sich assigned und meinen Kommentar im Discord gesehen, aber mehr auch nicht...

Als nächstes würde ich mich auf die Vote-Verarbeitung stürzen. Deren Anzeige ist total unzuverlässig. Vielleicht bringt mich das einer Ursache ein wenig näher. Nach meinem Hivemind-Datenbestand habe ich nämlich 134 Notifs und bei Steemit "nur" 67...

Jein. Im November und Dezember gab es einige kleine Auffälligkeiten. Pegelten sich aber jeweils recht schnell wieder ein. Damals war auch mehr das Problem, daß man steemit.com tageweise gar nicht öffnen und später keine langen Posts mehr veröffentlichen konnte. Wir behalfen uns mit Alternativen...

Was wir momentan erleben, begann in der Form um den 16.1. herum. Da habe ich den ersten Austausch dazu auf dem Discord.

 4 months ago 

Ich danke auch dir für die Einordnung. Dein Zeitrahmen deckt sich mit dem von remlaps.

Schau mal, am 21.1.24 hat Soulfuldreamer diesen „Hackerbeitrag“ geschrieben.
Los ging das ganze aber definitiv zwei Wochen vorher. Mit kleineren Auffälligkeiten (Verzögerungen, fehlende grüne Markierung eigener Votes) befinden wir uns tatsächlich bereits Ende Dezember… 😔

And it had been happening way before that... :(

Posted using SteemPro Mobile

 4 months ago 

Stimmt, an den Beitrag kann ich mich auch erinnern. Ich kann mich aber auch erinnern, dass ich während des Lesens damals schon dachte, dass es schon ein wenig länger die Probleme gab.

Ich kann mich aber auch erinnern, dass ich während des Lesens damals schon dachte

😁... Ja, ich dachte auch, was müssten wir uns nun von "jungen Steemians"... Haha, klare Sache: Das Ding war bereits mindestens drei bis vier Wochen am laufen. Wenn nicht noch länger - definitiv Ende Dezember. Unsere Vermutung...

I know so many of these words from almost 4 years of daily DuoLingo German lessons, but I still get almost nowhere trying to read the sentences. 😕 Some day...

Update after translating: This is the first time I remember seeing something similar. Jan. 21.

 4 months ago 

Schön, dass du es versuchst :-) Nice that you're trying :-)

Thank you for being able to determine the beginning so precisely. I really would have thought that it would have taken longer... unfortunately that doesn't match one of my other theses.

I just went back and read the conversation again. At the time, I mentioned that I was previously aware of votes and posts showing up late, so I guess January 21 would be "at the latest", but it almost certainly started some days or weeks earlier. TBH, It seems to me like we've been having problems ever since the end of August, when the apparent dos attack happened. For example, this SteemDB link ground to a crawl after that outage, and it is still only caught up to September 10. (I used to use it in one of my PowerBI graphs.) From my vantage point, there's no way to tell whether these problems are all interrelated or not.

 4 months ago 

Correct, I strongly assume that the measures introduced at the API node to prevent the attack now also cause Hivemind not to receive the data reliably. However, I cannot check this without the help of ety001. I hope he will reply, or we can get in touch in some other way. But perhaps he has already checked this himself. We don't know anything for sure, as nothing is being communicated...

It's very difficult to know where to start. The behaviour is pretty inconsistent. I have been able to observe and reproduce some things, but not others...

Correct, I strongly assume that the measures introduced at the API node to prevent the attack now also cause Hivemind not to receive the data reliably.

Interesting. So, the rate-limiting is too slow for hivemind to keep up(?). I have never learned to understand the hivemind architecture, but that theory is definitely consistent with the link, above. It still appears to be updating, but it's glacially slow. For example, when I glanced at it on the day I posted the comment above, it showed 8 rewards from September 10. Now, it shows 11.

 4 months ago 

the rate-limiting is too slow for hivemind to keep up(?)

Maybe. In addition, the way requests are handled has obviously been changed. I explained here that the batch requests may have been disabled... and also the request limits... maybe all together. But I'm almost convinced that Hivemind itself is fine, except for the caching delays...

The votes are very strange (differences). This is my next step of investigation.