Як призначити Git SHA1 файлу без Git?

Як я розумію, коли Git призначає хеш SHA1 файлу, цей SHA1 унікальний для цього файлу на основі його вмісту.

У результаті, якщо файл переміщується з одного сховища в інший, SHA1 для цього файла залишається таким же, як його вміст не змінювався.

Як Git обчислює дайджест SHA1? Це робить це на повний нестиснений вміст файлу?

Я хотів би наслідувати присвоєння SHA1 поза Git.

Ось так Git обчислює SHA1 для файлу (або, в термінах Git, "крапку"):

sha1("blob " + filesize + "\0" + data)

Таким чином, ви можете легко обчислити його самостійно, не встановлюючи Git. Зауважте, що "\ 0" - це NULL-байт, а не дво символьний рядок.

Наприклад, хеш порожнього файлу:

sha1("blob 0\0") = "e69de29bb2d1d6434b8b29ae775ad8c2e48c5391"

$ touch empty
$ git hash-object empty
e69de29bb2d1d6434b8b29ae775ad8c2e48c5391

Ще один приклад:

sha1("blob 7\0foobar\n") = "323fae03f4606ea9991df8befbb2fca795e648fa"

$ echo "foobar" > foo.txt
$ git hash-object foo.txt 
323fae03f4606ea9991df8befbb2fca795e648fa

Ось реалізація Python:

from hashlib import sha1
def githash(data):
    s = sha1()
    s.update("blob %u\0" % len(data))
    s.update(data)
    return s.hexdigest()

Маленька смакота: в оболонці

echo -en "blob ${#CONTENTS}\0$CONTENTS" | sha1sum

Ви можете зробити функцію оболонки bash, щоб обчислити її досить легко, якщо у вас не встановлено git.

git_id () { printf 'blob %s\0' "$(ls -l "$1" | awk '{print $5;}')" | cat - "$1" | sha1sum | awk '{print $1}'; }

Погляньте на сторінку man для git-hash-об’єкта . Ви можете використовувати його для обчислення git-хешу будь-якого конкретного файлу. Я думаю, що git подає більше, ніж просто вміст файлу в алгоритм хешу, але я точно не знаю, і якщо він подається з додатковими даними, я не знаю, що це таке.

/// Calculates the SHA1 for a given string
let calcSHA1 (text:string) =
    text 
      |> System.Text.Encoding.ASCII.GetBytes
      |> (new System.Security.Cryptography.SHA1CryptoServiceProvider()).ComputeHash
      |> Array.fold (fun acc e -> 
           let t = System.Convert.ToString(e, 16)
           if t.Length = 1 then acc + "0" + t else acc + t) 
           ""
/// Calculates the SHA1 like git
let calcGitSHA1 (text:string) =
    let s = text.Replace("\r\n","\n")
    sprintf "blob %d%c%s" (s.Length) (char 0) s
      |> calcSHA1

Це рішення у F #.

Повна реалізація Python3:

import os
from hashlib import sha1

def hashfile(filepath):
    filesize_bytes = os.path.getsize(filepath)

    s = sha1()
    s.update(b"blob %u\0" % filesize_bytes)

    with open(filepath, 'rb') as f:
        s.update(f.read())

    return s.hexdigest() 

У Perl:

#!/usr/bin/env perl
use Digest::SHA1;

my $content = do { local $/ = undef; <> };
print Digest::SHA1->new->add('blob '.length($content)."\0".$content)->hexdigest(), "\n";

Як команда оболонки:

perl -MDigest::SHA1 -E '$/=undef;$_=<>;say Digest::SHA1->new->add("blob ".length()."\0".$_)->hexdigest' < file

І в Perl (див. Також Git :: PurePerl на http://search.cpan.org/dist/Git-PurePerl/ )

use strict;
use warnings;
use Digest::SHA1;

my @input = <>;

my $content = join("", @input);

my $git_blob = 'blob' . ' ' . length($content) . "\0" . $content;

my $sha1 = Digest::SHA1->new();

$sha1->add($git_blob);

print $sha1->hexdigest();

Використовуючи Ruby, ви можете зробити щось подібне:

require 'digest/sha1'

def git_hash(file)
  data = File.read(file)
  size = data.bytesize.to_s
  Digest::SHA1.hexdigest('blob ' + size + "\0" + data)
end

Маленький сценарій Bash, який повинен давати ідентичний вихід git hash-object:

#!/bin/sh
( 
    echo -en 'blob '"$(stat -c%s "$1")"'\0';
    cat "$1" 
) | sha1sum | cut -d\  -f 1

У JavaScript

const crypto = require('crypto')
const bytes = require('utf8-bytes')

function sha1(data) {
    const shasum = crypto.createHash('sha1')
    shasum.update(data)
    return shasum.digest('hex')
}

function shaGit(data) {
    const total_bytes = bytes(data).length
    return sha1(`blob ${total_bytes}\0${data}`)
}

Цікаво відзначити, що очевидно Git додає символ нового рядка до кінця даних, перш ніж вони будуть хешировані. Файл, що не містить нічого, крім "Hello World!" отримує хеш-крап 980a0d5 ..., який такий же, як і цей:

$ php -r 'echo sha1("blob 13" . chr(0) . "Hello World!\n") , PHP_EOL;'