Предшественник рюкзака — армейский ранец, получивший широкое распространение в XVIII—XIX веках. В настоящее время можно ещё встретить школьные ранцы. В послевоенные годы были широко распространены простые рюкзаки из брезента, часто сшитые кустарным способом.
Основными «пользователями» рюкзаков долгое время оставались спортсмены — туристы и альпинисты. В частности, ещё в середине XX века выдающимся советским альпинистом Виталием Абалаковым был разработан рюкзак для спортивных походов и восхождений, названный по его фамилии «абалаковским» или «абалаком», долгое время бывший стандартным, а по большей части единственным доступным на территории СССР, элементом спортивного снаряжения.
Все значительные изменения конструкции рюкзаков были придуманы и реализованы начиная с середины XX века, обычно конструктивно дополнялся «абалак». В середине 1970-х годов появились первые полностью самодельные туристические и альпинистские рюкзаки. Самоделки быстро стали популярными среди туристов и альпинистов. Именно на самодельных конструкциях впервые появились поясные ремни.
С появлением лёгких и прочных синтетических тканей процесс совершенствования рюкзаков резко ускорился. С инновациями в области материалов и технологий совпало появление моды на спортивный образ жизни, на спортивную одежду, поэтому сейчас рюкзаки уверенно занимают свою нишу и в повседневной жизни.