SQLite - это по сути и есть текстовый файлик и реализованный быстрый поиск по строкам через хеши и индексы.
Требование иметь библиотеку - зло в том случае, когда этого можно не делать и не привязываться к базам данных. Ну не нужно для библиотеки (а hcl в том виде, что я предлагаю и есть библиотека с очень очень редкой записью - в основном это чтение, все остальное реализовывается через content-provider) это, не нужно. Сейчас наиболее важно определиться с критериями уникальности пробы, чтобы независимо от количества проб на одной машине, по этим критериям получать железно неизменный результат. Здесь нужна помощь, т.к. все файлы перелопачивать и делать все на ощупь очень не хотелось бы - слишком по времени долго выйдет. Вместо sqlite предлагается (если вы уж такой любитель баз) использовать нормальную файловую систему с кэшированием (данных, кстати, в этой базе будет мало по объему и оно отлично будет кэшироваться на любом хостинге, даже с небольшим объемом памяти). Использование библиотеки увеличит потребление, а питон увеличит это потребление до неприемлемого (ввиду того, что это все можно наверняка написать на тех же сях, пускай и с использованием какой-нибудь легкой библиотеки, которая может очень такое быть уже входит в большинство дистрибутивов).
Баш я привел только потому, что лично я ничего другого особо не знаю, и писать все это вряд ли буду. Здесь нужна помощь, но сначала критерии, а потом реализации. И я настаиваю на том, что база здесь абсолютно ни к чему. Я сомневаюсь, что база будет сильно быстрее операций над строками даже теми же гнутыми утилитами, которые есть на любой уважающей себя linux системе, в том числе и на простом сервере без графической оболочки. Тем более, что спешка здесь как раз ни к чему - все пробы обрабатывает другой компонент. Вот здесь можно и питон приложить, если уж так хочется или перл, или предложите что-нибудь на ваш выбор. Короче говоря, тут есть выбор инструментария. Мне просто в силу недостаточности знаний увидеть, что лучше подойдет здесь, сходу трудно. Но это точно никак не мешает попробовать разные реализации.