En 1539 une loi ordonne aux imprimeurs genevois de déposer à la Chambre des comptes plusieurs exemplaires de leurs publications. C'est l'origine du dépôt légal genevois, le plus ancien au monde après la France (1537), qui a assuré la conservation de la production éditoriale de la cité jusqu'à nous, même si son application n'a pas toujours été rigoureuse et s'il a connu une longue interruption au cours du 20e s.

Quelques années plus tard, en 1562, la Bibliothèque de Genève est mentionnée pour la première fois, en tant que partie de l'Académie et du Collège inaugurés par Calvin en 1559. C'est cette dernière date qu'il faut retenir et qui atteste de l'existence à Genève d'une véritable bibliothèque organisée. C'est la plus ancienne mention d'une institution de ce genre en Suisse, après la Bibliothèque de Bâle (1471).

Les catalogues édités témoignent de l'accroissement régulier des collections: 720 ouvrages sont recensés en 1572, 1'200 en 1612, 4'000 en 1702, 15'000 en 1779 et plus de 70'000 en 1872, date à laquelle la Bibliothèque déménage aux Bastions, dans le bâtiment qu'elle occupe aujourd'hui.

Des bibliothèques personnelles, comme celles de Jean Calvin, François Bonivard ou Pierre Vermigli, contribuèrent dès les débuts à l'enrichissement des fonds. Mais l'apport le plus remarquable sous l'Ancien Régime est certainement la collection de manuscrits enluminés achetée par le théologien genevois Ami Lullin à Paris et léguée à la Bibliothèque en 1756. De manière générale, le 18e siècle est pour Genève une période de grande activité culturelle et intellectuelle, associée à un essor économique, qui se traduit par l'augmentation marquée des collections de la bibliothèque.

La nouvelle Constitution dont Genève se dote en 1847 à la faveur de la révolution radicale, attribue la Bibliothèque à la Ville de Genève. Pourtant sa mission reste liée à l'enseignement supérieur, ce qui explique qu'elle accompagna l'Académie - devenue Université - dans ses nouveaux locaux aux Bastions. En 1907 elle porte officiellement le nom de Bibliothèque publique et universitaire.

La croissance des collections va s'accélérer au cours du 20e siècle, comme on peut le constater dans toutes les bibliothèques comparables, suivant en cela l'augmentation générale de la production éditoriale. Le bâtiment des Bastions se révèle rapidement trop exigu et les extensions ou transformations ponctuent le siècle. En 1905 une nouvelle salle de lecture est construite, adossée à la façade orientale, ainsi que des salles d'exposition. Plusieurs aménagements augmentent la capacité des magasins en sous-sol, les derniers en date s'étant achevés en 1987.

A la période plus récente s'opère l'informatisation progressive des services. En 1984, la Bibliothèque se rattache au Réseau romand, devenu aujourd'hui Réseau des bibliothèques de Suisse occidentale, Rero.

En 1999 la Bibliothèque de Genève inaugure le premier espace en libre accès de son histoire. Jusqu'alors, les ouvrages ne pouvaient être communiqués que moyennant une recherche dans les catalogues et une commande en magasin, à l'exception des consultatifs et ouvrages de référence. Malgré sa taille limitée (30'000 volumes) cette sélection encyclopédique de livres récents rencontre un franc succès, attesté par le volume des prêts.

La Salle de lecture est rénovée en 2005. Elle offre aux lecteurs un confort accru, ainsi qu'un accès wifi, le premier wifi public de la Ville de Genève.

En 2006, la Bibliothèque organise une grande exposition au Musée Rath: Arts, savoirs, mémoire. Trésors de la Bibliothèque de Genève. A cette occasion, elle reprend officiellement son ancien nom: Bibliothèque de Genève.

Une rénovation complète de l'Espace Ami Lullin, la salle d'exposition située au rez-de-chaussée de la Bibliothèque, est entreprise en 2007. Depuis l'inauguration en octobre 2008, le mobilier, entièrement renouvelé, permet de montrer les documents dans d'excellentes conditions de sécurité. Un espace dédié aux conférences complète l'espace d’exposition.

Au début du 21e siècle, des travaux de rénovation sont entrepris, sans toutefois résoudre la saturation des collections à moyen terme (plus de 2'000'000 de volumes rien que pour les imprimés).