Fou à lier
Nuage de tags
Mur d'images
Quotidien
Flux RSS
  • Flux RSS
  • ATOM Feed
  • Daily Feed
Liens par page
  • 20 links
  • 50 links
  • 100 links
4 results tagged DB  ✕
Comment OVH sauvegarde un million de bases de données chaque jour ?
20/08/2017 14:44:50 archive.org
QRCode
cluster icon
  • Yoshinori Matsunobu's blog: Tables on SSD, Redo/Binlog/SYSTEM-tablespace on HDD : Comment configurer sa base de données avec un SSD ? Réponse rapide (pour InnoDB mais généralisable) : - Sur **disque rotatif (HDD)** : REDO logs,...
  • Administration et optimisation générales Mysql : Une bonne page pour l'optimisation générale de MySQL (dont InnoDB). Ça liste un peu toutes les variables importantes et ce qu'il faut faire.
  • CNAME record - Wikipedia, the free encyclopedia : Merde, les zones DNS d'OVH ne supportent pas le champ DNAME… Du coup, impossible de centraliser l'écriture d'un champ TXT pour DKIM (alors que c'est ...
  • Développer un contrat/programme sur Ethereum - pses2016-contrats-ethereum-SHOW.pdf : La conf de Bortzmeyer sur Ethereum (et le carnage TheDAO) en quelques slides (bimer). C'est super, c'est la première fois que je trouve un document u...
  • OVH News - La goutte DDoS n'a pas fait déborder le VAC* : OVH communique sur une attaque DDoS d'ampleur qu'ils ont subi il y a quelques jours, et en profite pour faire un peu de pédagogie auprès de nos amis (...

Comment OVH gère le backup de dizaines de milliers de bases de données (MySQL et PostgreSQL) ?

TL;DR:

  • répartition homogène des backup dans le temps grâce à une fonction de hachage sur le nom de la base ;
  • dump avec verrouillage de tables si présence de tables MyISAM ;
  • dump avec transaction si 100% InnoDB ;
  • backup en sus au format SGBD (avec XtraBackup) si base volumineuse (temps de restore > 10 minutes) ;
  • mysqlcheck pour réparer au préalable les tables, mais en prenant soin de doubler la RAM temporairement ;
  • backup exportés et dédupliqués (cluster Ceph, disques locaux si prod externe, Cloud Storage)

via : http://sebsauvage.net/links/?8vhoGw

backup database DB imba informatique MySQL OVH technique
https://www.ovh.com/fr/blog/realiser-un-million-de-backup-bases-de-donnees-par-jour/
Administration et optimisation générales Mysql
07/09/2016 17:25:28 archive.org
QRCode
cluster icon
  • BashPitfalls - Greg's Wiki : Plein, plein, plein d'erreurs courantes en shell (que ce soit bash, zsh, sh, ksh, POSIX, etc.). Et aussi un site merveilleux où on peut trouver plein...
  • Comparison of JavaScript charting frameworks - Wikipedia, the free encyclopedia : Décidément, je fais bien de vider les Shaarli du patron (Seb) que j'avais mis de côté (certains datent de deux ans !) Ici, le tableau Wikipedia des f...
  • HobbesWorld - Calculatrice IP : Ahhh, enfin un calculateur de masques IP vraiment pratique. Il fait tout, y compris calcul de masque à partir d'une plage, et donne toutes les notatio...
  • Home | Linux Journey : Pas mal : un site avec toutes les bases des OS Linux, avec des exercices. Génial. via : http://sebsauvage.net/links/?xJLq8Q
  • KobOne, recrutez les meilleurs graphistes, webdesigners, motion-designers freelances et salariés : Tout ce qu'il faut pour devenir Freelance (forum de conseils, outils, recherche d'emploi, etc.) Bien pratique !

Une bonne page pour l'optimisation générale de MySQL (dont InnoDB). Ça liste un peu toutes les variables importantes et ce qu'il faut faire.

DB informatique MySQL optimisation pratique SGBD utile W
http://selectetoile.net/index.php/mysql/mysql-admin/82-admin-mysql
WikiStart - Tiny Tiny RSS
31/01/2014 16:29:32 archive.org
QRCode
cluster icon
  • Administration et optimisation générales Mysql : Une bonne page pour l'optimisation générale de MySQL (dont InnoDB). Ça liste un peu toutes les variables importantes et ce qu'il faut faire.
  • Comment OVH sauvegarde un million de bases de données chaque jour ? : Comment OVH gère le *backup* de dizaines de milliers de bases de données (MySQL et PostgreSQL) ? TL;DR: - répartition homogène des backup dans le ...
  • Measuring block size of flash : Intéressant ce petit benchmark de clé USB, rapport à la taille des blocs. J'en conclus qu'il faudrait formater en FAT avec des blocs de 8kB (enfin, il...
  • Microsoft améliore la reconnaissance vocale pour les téléphones en imitant le cerveau | BlogNT : Margaux m'avait, il y a longtemps, demandé de lire ce truc. Bien qu'il y ait assez peu de détails, ça reste intéressant : Microsoft ferait du biomimé...
  • News+ | Google News RSS Reader - Applications Android sur Google Play : Super !!! Lorsque Google Reader existait encore, j'utilisais une excellente appli Android : gReader (que j'avais même acheté). Et là, depuis quelques ...

TT-RSS, c'est vraiment un très bon agrégateur.
Cependant, le moteur est vraiment super mal foutu : le schéma SQL n'est pas du tout optimisé (au niveau des index notamment, mais pas que : toute la logique de lecture/écriture est à refaire)

Si bien que j'ai des valeurs totalement aberrantes dans l'analyseur de MySQL. Exemple, depuis 12 jours, j'ai obtenu 206 millions de lecture de "l'élément suivant" d'une table… 40 millions de lectures basées sur une position fixe…

Bref, comme solution temporaire, je joue avec les tables temporaires et la taille des différents caches d'InnoDB/MySQL. Mais il reste que le schéma est vraiment pas terrible => pas de passage à l'échelle.

P.S : l'auteur indique lui-même sur son site qu'il a fait ça dans son coin, pour lui au départ, et qu'il n'a pas envisagé de faire un truc performant au départ. Si je maitrisais le SQL + le back en PHP, je lui filerais bien un coup de main pour refondre ça au propre. Parce que c'est vraiment un très bon boulot à part ces quelques soucis.

EDIT : WOUAH !!! Les IO de mes disques ont littéralement chuté rien qu'en augmentant des caches. J'entendais un bruit de disque permanent, il a disparu tout d'un coup… Punaise.

BDD DB informatique MySQL performance schéma tables ttRSS
http://tt-rss.org/redmine/projects/tt-rss/wiki
MongoDB Inc. Worth $1.2 Billion, Are They the Next Oracle? | Architects Zone
08/10/2013 14:07:47 archive.org
QRCode
cluster icon
  • What PostgreSQL has over other open source SQL databases: Part I : Un super article pour décrire les capacités de PostgreSQL face à ses principaux concurrents (les RDBMS open-source). Beaucoup de ces features ne se re...
  • Comment OVH sauvegarde un million de bases de données chaque jour ? : Comment OVH gère le *backup* de dizaines de milliers de bases de données (MySQL et PostgreSQL) ? TL;DR: - répartition homogène des backup dans le ...
  • Administration et optimisation générales Mysql : Une bonne page pour l'optimisation générale de MySQL (dont InnoDB). Ça liste un peu toutes les variables importantes et ce qu'il faut faire.
  • Always Encrypted: SQL Server 2016 includes new advances that keep data safer - Next at Microsoft : Microsoft va sortir une version de SQL Server "Always Encrypted". C'est bien. Je n'ai pas regardé dans les détails, donc je ne sais pas si elle opère...
  • Cache is the new RAM | MemSQL - The Database for Speed, Scale & Simplicity : Très bon historique des technologies de stockage de données. Où l'on voit que tout n'est qu'un problème de performance et de bottleneck. via : http...

10gen, développeur de MongoDB, lève 150 m$ pour atteindre 1.2M$ en valorisation. Pas mal pour du NoSQL.

Oracle serait intéressé ?

10gen BdD database DB NoSQL Oracle valorisation
http://architects.dzone.com/articles/mongodb-inc-worth-12-billion?mz=36885-nosql
2412 links
Shaarli - Le gestionnaire de marque-page personnel, minimaliste, et sans base de données par la communauté Shaarli - Theme by kalvn