Đào Duy Anh sinh ngày 25 tháng 4, 1904 tại Thanh Hóa, tuy nhiên dòng họ của ông vốn gốc ở làng Khúc Thủy, tổng Tả Thanh Oai, huyện Thanh Oai, tỉnh Hà Tây (nay là huyện Thanh Oai, thành phố Hà Nội), đời ông nội của Đào Duy Anh chuyển cư vào xã Trung Chính, huyện Nông Cống, tỉnh Thanh Hóa. Các em trai của ông là Đào Duy Kỳ, Đào Duy Dếnh.

Sau khi đỗ Thành chung tại trường Quốc học Huế năm 1923, ông không làm công chức dưới chính quyền thực dân Pháp mà làm nghề dạy học ở Trường Tiểu học Đồng Hới tỉnh Quảng Bình. Ông chịu ảnh hưởng của các phong trào yêu nước đang dấy lên thời kỳ đó như phong trào đấu tranh đòi "ân xá" cho Phan Bội Châu năm 1925, đám tang Phan Chu Trinh năm 1926... Cuối năm 1925, ông tham gia sự kiện Hội Quảng Tri Đồng Hới đón tiếp Phan Bội Châu trên đường từ Hà Nội vào Huế.

Đào Duy Anh tham gia Việt Nam Cách mạng Đảng năm 1926 và sau khi đảng này đổi tên thành Tân Việt Cách mạng Đảng (tháng 7 năm 1928), ông trở thành Tổng Bí thư.

Năm 1928, ông sáng lập Quan hải tùng thư, với sự cộng tác của những trí thức như Võ Liêm Sơn, Trần Đình Nam, Phan Đăng Lưu... xuất bản những tập sách phổ cập để người đọc làm quen với tư tưởng khoa học và duy vật lịch sử (như Lịch sử các học thuyết kinh tế, Phụ nữ vận động, Lịch sử nhân loại, Tôn giáo là gì? Xã hội là gì? Dân tộc là gì?). Trong thời gian này, ông lấy biệt hiệu là Vệ Thạch (chim tinh vệ).

Tháng 7 năm 1929, Đào Duy Anh bị chính quyền bắt giam cho đến đầu năm 1930. Từ đó ông chuyên tâm nghiên cứu văn hóa bắt đầu là từ điển học rồi văn hóa, văn học, sử học. Sau Cách mạng tháng Tám, Đào Duy Anh được mời giảng dạy môn Lịch sử tại Đại học Văn khoa Hà Nội. Ông là Uỷ viên Ban vận động Đại hội văn hóa toàn quốc năm 1946. Trong kháng chiến chống Pháp, ông hoạt động trong Chi hội văn nghệ Liên khu IV.