DATAtourisme

Flux JSON zip invalides

Bonjour,
Depuis quelques jours un flux que j’ai créé est devenu invalide. J’utilise l’accès via API et j’ai essayé le téléchargement manuel, les deux ne fonctionnent plus.
J’ai configuré un flux dans le format JSON zip avec tous les POIs de la base DATAtourisme. La connexion via l’API fonctionne, mais le fichier est inexploitable. Est-ce un problème général ?
Je vais essayer de recréer un nouveau flux pour voir si le problème persiste.
Merci.

Bonjour,

Je viens de télécharger votre flux « All - JSON zip » et je ne constate pas de problème d’intégrité sur la compression zip.
Auriez vous un problème d’espace disque qui rendrai l’archive zip incomplète au téléchargement ?
Pourriez vous confirmer la taille du fichier zip à travers un téléchargement manuel ?

Cordialement.

Bonjour,

En téléchargeant le fichier manuellement, il fait 1.1Go. Il me reste suffisamment d’espace disque disponible (130Go), donc ce n’est pas un problème lié à un téléchargement incomplet (le temps de téléchargement est d’ailleurs adéquat à la taille de l’archive).
Une fois l’archive téléchargée manuellement, lorsque j’essaye de l’ouvrir, je vois le message « Windows ne peut pas ouvrir le dossier. Le dossier compressé […zip] est invalide »

Bonjour,

Merci beaucoup pour les informations.
Nous arrivons à reproduire le problème et travaillons à le corriger le plus rapidement possible.
Nous vous tiendrons informé dès qu’il sera résolut.

De l’avancée de nos investigations il impacte 5 utilisateurs et peut être contourné en créant des flux plus petits (13 flux, en découpant la France par région)

Cordialement.

Bonjour,

D’accord, merci pour votre réponse. Je vais mettre en place de plus petits flux afin de pouvoir continuer à exploiter les données.

Merci !

@conjecto bonjour,

Pourriez-vous, si possible, nous indiquer comment faire pour éviter d’être considérer comme une attaque DDOS et d’être bloqué par le systeme?

Faut t’il mettre un timer dans le cadre de téléchargement de petit flux ?

Je me suis déjà fait bloqué dans le cadre de test manuel (donc quand j’ai lancé plusieurs fois des téléchargements) mais c’est + pour éviter que cela se produise en automatique

merci

@Benmadda_SAMI

Le problème est corrigé. Pourriez vous télécharger votre flux « All - JSON zip » pour confirmer que tout est opérationnel de votre coté ?

Bonjour @Olivier4477,

Pourriez vous m’envoyer par message privé l’adresse IP concernée et le contexte dans lequel cela vous est arrivé ? (date, téléchargement manuel ou par web service, si possible les flux concernés ou encore mieux les urls appelées, …)

Cordialement.

Bonjour @conjecto,

Effectivement, j’ai téléchargé le flux et tout fonctionne. Merci pour votre aide !

Bonsoir @Olivier4477 ,

Merci pour les informations précises que vous nous avez fournies.

Voici les appels que nous avons trouvé.

x.x.x.x- - [02/Aug/2021:23:36:36 +0200] 
x.x.x.x- - [02/Aug/2021:23:36:37 +0200] 
x.x.x.x- - [02/Aug/2021:23:36:37 +0200] 
x.x.x.x- - [02/Aug/2021:23:36:37 +0200] 
x.x.x.x- - [02/Aug/2021:23:36:38 +0200] 

S’il n’y en a pas eu d’autre, vous n’avez pas été bloqué, vous êtes tombés sur les 15 minutes ou les flux ne sont plus accessibles.

Entre 23h30 et 23h45, afin de garantir l’intégrité des flux, certains services sont coupés pendant une partie du processus qui met à jour le schéma de données et produit l’index de référence pour les diffuseurs.

Cette approche a déjà évoluée depuis le changement de serveur (précédemment il y avait aussi 5 minutes de coupure avant certaines heures), et vas encore changer d’ici la fin de l’année.

Lorsque cela sera stabilisé nous mettrons la documentation à jour.

Nos excuses pour le dérangement, en attendant il faut éviter ce quart d’heure.

Cordialement.

@conjecto bonjour

23h30 23h45 c’était des test manuels, pour l’automatique je programme plutôt vers 3 h du matin.
merci