Skarpa, choć nigdy nie była dużą miejscowością, istnieje w tym miejscu od dawna: pierwsze wzmianki na jej temat pochodzą z 1432 r. Jej nazwa pochodzi zapewne od położenia na skraju schodzącej do jeziora skarpy i nie zmieniała się znacznie przez wieki – dawne wersje to Skarp, Skarpe, Skarpi.
Od pierwszej połowy XIX w. do 1939 r. Skarpa i okoliczne dobra znajdowały się w rękach rodziny Prądzyńskich. To oni zbudowali we wsi dwór, kaplicę oraz zabudowania gospodarskie i mieszkalne, z których część możemy oglądać do dzisiaj.
Od okresu zaborów, a niekiedy i wcześniej, okoliczne miejscowości (Trzciany, Zalesie, Włościbórz) były w rękach niemieckich rodzin, a ich mieszkańcy byli w przeważającej części ewangelikami. W Skarpie mieszkali przede wszystkim katolicy, należący do parafii w Wałdowie.
Od początku XX w. Skarpą zarządzał Lucjan Prądzyński, zapamiętany jako sprawny gospodarz, społecznik i polski patriota. Znana jest historia, gdy u początków II RP wykradł z urzędu w Złotowie (wówczas po niemieckiej stronie granicy) listy mieszkańców, aby udowodnić polskość tych ziem, a następnie w pościgu samochodowym musiał uciekać przed policją do Polski. Miał też wspierać swoich pracowników w trudnych momentach kryzysu gospodarczego oraz przed wybuchem wojny. W 1939 r. Lucjan Prądzyński wraz z żoną zostali zastrzeleni w Karolewie.
W czasie II wojny światowej Skarpa funkcjonowała pod niemieckim zarządem. Tereny te były włączone do III Rzeszy, pod koniec wojny wielu młodych mężczyzn, zwłaszcza z niemieckobrzmiącymi nazwiskami, było wcielonych do Wehrmachtu.
Po wojnie w Skarpie powstało Państwowe Gospodarstwo Rolne. Do najstarszych zabudowań, położonych wzdłuż głównej drogi, zaczęły dołączać kolejne bloki, budowane od l. 60. Wprowadzały się do nich osoby przyjeżdżające z różnych stron kraju w poszukiwaniu dobrych warunków do życia: z powiatu sępoleńskiego, Kujaw czy Wielkopolski. W Skarpie funkcjonowało przedszkole, świetlica, klub rolnika, OSP, sklep.
W 1994 r. PGR przestał istnieć. Jego miejsce zajmowały kolejne spółki, które zatrudniały coraz mniej osób. Dwór w Skarpie, od pewnego momentu w rękach prywatnych, stał nieużytkowany i niszczał. Obecnie planowana jest jego renowacja i budowa agroturystyki.
Ostatnie dekady wiążą się także z rozwojem, nie zawsze łatwym, inicjatyw mieszkańców i mieszkanek wsi: Klubu Sportowego Skarpa, projektów związanych z poprawą przestrzeni wsi, działań Koła Gospodyń Wiejskich, Stowarzyszenia Pozytywnie Zakręceni czy świetlicy.