util.datamanager: Use pposix.fallocate() to make sure appends succeed. Also add a...
[prosody.git] / util / datamanager.lua
index 6a811879706facc934cad31834d2fa44d3e28146..29a5b994cfc413f512c61cbee181d33e16546e3a 100644 (file)
@@ -1,20 +1,9 @@
--- Prosody IM v0.2
--- Copyright (C) 2008 Matthew Wild
--- Copyright (C) 2008 Waqas Hussain
--- 
--- This program is free software; you can redistribute it and/or
--- modify it under the terms of the GNU General Public License
--- as published by the Free Software Foundation; either version 2
--- of the License, or (at your option) any later version.
--- 
--- This program is distributed in the hope that it will be useful,
--- but WITHOUT ANY WARRANTY; without even the implied warranty of
--- MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
--- GNU General Public License for more details.
--- 
--- You should have received a copy of the GNU General Public License
--- along with this program; if not, write to the Free Software
--- Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA  02110-1301, USA.
+-- Prosody IM
+-- Copyright (C) 2008-2010 Matthew Wild
+-- Copyright (C) 2008-2010 Waqas Hussain
+--
+-- This project is MIT/X11 licensed. Please see the
+-- COPYING file in the source package for more information.
 --
 
 
@@ -22,23 +11,48 @@ local format = string.format;
 local setmetatable, type = setmetatable, type;
 local pairs, ipairs = pairs, ipairs;
 local char = string.char;
-local loadfile, setfenv, pcall = loadfile, setfenv, pcall;
+local pcall = pcall;
 local log = require "util.logger".init("datamanager");
 local io_open = io.open;
 local os_remove = os.remove;
-local io_popen = io.popen;
 local tostring, tonumber = tostring, tonumber;
 local error = error;
 local next = next;
 local t_insert = table.insert;
 local append = require "util.serialization".append;
-local path_separator = "/"; if os.getenv("WINDIR") then path_separator = "\\" end
+local envloadfile = require"util.envload".envloadfile;
+local serialize = require "util.serialization".serialize;
+local path_separator = assert ( package.config:match ( "^([^\n]+)" ) , "package.config not in standard form" ) -- Extract directory seperator from package.config (an undocumented string that comes with lua)
+local lfs = require "lfs";
+local prosody = prosody;
+local raw_mkdir;
+local fallocate;
+
+if prosody.platform == "posix" then
+       raw_mkdir = require "util.pposix".mkdir; -- Doesn't trample on umask
+       fallocate = require "util.pposix".fallocate;
+else
+       raw_mkdir = lfs.mkdir;
+end
+
+if not fallocate then -- Fallback
+       function fallocate(f, offset, len)
+               -- This assumes that current position == offset
+               local fake_data = (" "):rep(len);
+               local ok, msg = f:write(fake_data);
+               if not ok then
+                       return ok, msg;
+               end
+               f:seek(offset);
+               return true;
+       end
+end
 
 module "datamanager"
 
 ---- utils -----
 local encode, decode;
-do 
+do
        local urlcodes = setmetatable({}, { __index = function (t, k) t[k] = char(tonumber("0x"..k)); return t[k]; end });
 
        decode = function (s)
@@ -54,24 +68,52 @@ local _mkdir = {};
 local function mkdir(path)
        path = path:gsub("/", path_separator); -- TODO as an optimization, do this during path creation rather than here
        if not _mkdir[path] then
-               local x = io_popen("mkdir \""..path.."\" 2>&1"):read("*a");
+               raw_mkdir(path);
                _mkdir[path] = true;
        end
        return path;
 end
 
-local data_path = "data";
+local data_path = (prosody and prosody.paths and prosody.paths.data) or ".";
+local callbacks = {};
 
 ------- API -------------
 
 function set_data_path(path)
-       log("info", "Setting data path to %s", path);
+       log("debug", "Setting data path to: %s", path);
        data_path = path;
 end
 
+local function callback(username, host, datastore, data)
+       for _, f in ipairs(callbacks) do
+               username, host, datastore, data = f(username, host, datastore, data);
+               if username == false then break; end
+       end
+
+       return username, host, datastore, data;
+end
+function add_callback(func)
+       if not callbacks[func] then -- Would you really want to set the same callback more than once?
+               callbacks[func] = true;
+               callbacks[#callbacks+1] = func;
+               return true;
+       end
+end
+function remove_callback(func)
+       if callbacks[func] then
+               for i, f in ipairs(callbacks) do
+                       if f == func then
+                               callbacks[i] = nil;
+                               callbacks[f] = nil;
+                               return true;
+                       end
+               end
+       end
+end
+
 function getpath(username, host, datastore, ext, create)
        ext = ext or "dat";
-       host = host and encode(host);
+       host = (host and encode(host)) or "_global";
        username = username and encode(username);
        if username then
                if create then mkdir(mkdir(mkdir(data_path).."/"..host).."/"..datastore); end
@@ -86,16 +128,23 @@ function getpath(username, host, datastore, ext, create)
 end
 
 function load(username, host, datastore)
-       local data, ret = loadfile(getpath(username, host, datastore));
+       local data, ret = envloadfile(getpath(username, host, datastore), {});
        if not data then
-               log("warn", "Failed to load "..datastore.." storage ('"..ret.."') for user: "..(username or "nil").."@"..(host or "nil"));
-               return nil;
+               local mode = lfs.attributes(getpath(username, host, datastore), "mode");
+               if not mode then
+                       log("debug", "Assuming empty %s storage ('%s') for user: %s@%s", datastore, ret, username or "nil", host or "nil");
+                       return nil;
+               else -- file exists, but can't be read
+                       -- TODO more detailed error checking and logging?
+                       log("error", "Failed to load %s storage ('%s') for user: %s@%s", datastore, ret, username or "nil", host or "nil");
+                       return nil, "Error reading storage";
+               end
        end
-       setfenv(data, {});
+
        local success, ret = pcall(data);
        if not success then
-               log("error", "Unable to load "..datastore.." storage ('"..ret.."') for user: "..(username or "nil").."@"..(host or "nil"));
-               return nil;
+               log("error", "Unable to load %s storage ('%s') for user: %s@%s", datastore, ret, username or "nil", host or "nil");
+               return nil, "Error reading storage";
        end
        return ret;
 end
@@ -104,16 +153,23 @@ function store(username, host, datastore, data)
        if not data then
                data = {};
        end
+
+       username, host, datastore, data = callback(username, host, datastore, data);
+       if username == false then
+               return true; -- Don't save this data at all
+       end
+
        -- save the datastore
        local f, msg = io_open(getpath(username, host, datastore, nil, true), "w+");
        if not f then
-               log("error", "Unable to write to "..datastore.." storage ('"..msg.."') for user: "..(username or "nil").."@"..(host or "nil"));
-               return;
+               log("error", "Unable to write to %s storage ('%s') for user: %s@%s", datastore, msg, username or "nil", host or "nil");
+               return nil, "Error saving to storage";
        end
        f:write("return ");
        append(f, data);
        f:close();
-       if not next(data) then -- try to delete empty datastore
+       if next(data) == nil then -- try to delete empty datastore
+               log("debug", "Removing empty %s datastore for user %s@%s", datastore, username or "nil", host or "nil");
                os_remove(getpath(username, host, datastore));
        end
        -- we write data even when we are deleting because lua doesn't have a
@@ -123,15 +179,23 @@ end
 
 function list_append(username, host, datastore, data)
        if not data then return; end
+       if callback(username, host, datastore) == false then return true; end
        -- save the datastore
-       local f, msg = io_open(getpath(username, host, datastore, "list", true), "a+");
+       local f, msg = io_open(getpath(username, host, datastore, "list", true), "a");
        if not f then
-               log("error", "Unable to write to "..datastore.." storage ('"..msg.."') for user: "..(username or "nil").."@"..(host or "nil"));
+               log("error", "Unable to write to %s storage ('%s') for user: %s@%s", datastore, msg, username or "nil", host or "nil");
                return;
        end
-       f:write("item(");
-       append(f, data);
-       f:write(");\n");
+       local data = "item(" ..  serialize(data) .. ");\n";
+       local pos = f:seek("end");
+       local ok, msg = fallocate(f, pos, #data);
+       f:seek("set", pos);
+       if ok then
+               f:write(data);
+       else
+               log("error", "Unable to write to %s storage ('%s') for user: %s@%s", datastore, msg, username or "nil", host or "nil");
+               return ok, msg;
+       end
        f:close();
        return true;
 end
@@ -140,10 +204,11 @@ function list_store(username, host, datastore, data)
        if not data then
                data = {};
        end
+       if callback(username, host, datastore) == false then return true; end
        -- save the datastore
        local f, msg = io_open(getpath(username, host, datastore, "list", true), "w+");
        if not f then
-               log("error", "Unable to write to "..datastore.." storage ('"..msg.."') for user: "..(username or "nil").."@"..(host or "nil"));
+               log("error", "Unable to write to %s storage ('%s') for user: %s@%s", datastore, msg, username or "nil", host or "nil");
                return;
        end
        for _, d in ipairs(data) do
@@ -152,7 +217,8 @@ function list_store(username, host, datastore, data)
                f:write(");\n");
        end
        f:close();
-       if not next(data) then -- try to delete empty datastore
+       if next(data) == nil then -- try to delete empty datastore
+               log("debug", "Removing empty %s datastore for user %s@%s", datastore, username or "nil", host or "nil");
                os_remove(getpath(username, host, datastore, "list"));
        end
        -- we write data even when we are deleting because lua doesn't have a
@@ -161,19 +227,67 @@ function list_store(username, host, datastore, data)
 end
 
 function list_load(username, host, datastore)
-       local data, ret = loadfile(getpath(username, host, datastore, "list"));
+       local items = {};
+       local data, ret = envloadfile(getpath(username, host, datastore, "list"), {item = function(i) t_insert(items, i); end});
        if not data then
-               log("warn", "Failed to load "..datastore.." storage ('"..ret.."') for user: "..(username or "nil").."@"..(host or "nil"));
-               return nil;
+               local mode = lfs.attributes(getpath(username, host, datastore, "list"), "mode");
+               if not mode then
+                       log("debug", "Assuming empty %s storage ('%s') for user: %s@%s", datastore, ret, username or "nil", host or "nil");
+                       return nil;
+               else -- file exists, but can't be read
+                       -- TODO more detailed error checking and logging?
+                       log("error", "Failed to load %s storage ('%s') for user: %s@%s", datastore, ret, username or "nil", host or "nil");
+                       return nil, "Error reading storage";
+               end
        end
-       local items = {};
-       setfenv(data, {item = function(i) t_insert(items, i); end});
+
        local success, ret = pcall(data);
        if not success then
-               log("error", "Unable to load "..datastore.." storage ('"..ret.."') for user: "..(username or "nil").."@"..(host or "nil"));
-               return nil;
+               log("error", "Unable to load %s storage ('%s') for user: %s@%s", datastore, ret, username or "nil", host or "nil");
+               return nil, "Error reading storage";
        end
        return items;
 end
 
+function list_stores(username, host)
+       if not host then
+               return nil, "bad argument #2 to 'list_stores' (string expected, got nothing)";
+       end
+       local list = {};
+       local host_dir = format("%s/%s/", data_path, encode(host));
+       for node in lfs.dir(host_dir) do
+               if not node:match"^%." then -- dots should be encoded, this is probably . or ..
+                       local store = decode(node);
+                       local path = host_dir..node;
+                       if username == true then
+                               if lfs.attributes(path, "mode") == "directory" then
+                                       list[#list+1] = store;
+                               end
+                       elseif username then
+                               if lfs.attributes(getpath(username, host, store), "mode")
+                                       or lfs.attributes(getpath(username, host, store, "list"), "mode") then
+                                       list[#list+1] = store;
+                               end
+                       elseif lfs.attributes(path, "mode") == "file" then
+                               list[#list+1] = store:gsub("%.[dalist]+$","");
+                       end
+               end
+       end
+       return list;
+end
+
+function purge(username, host)
+       local host_dir = format("%s/%s/", data_path, encode(host));
+       local deleted = 0;
+       for file in lfs.dir(host_dir) do
+               if lfs.attributes(host_dir..file, "mode") == "directory" then
+                       local store = decode(file);
+                       deleted = deleted + (os_remove(getpath(username, host, store)) and 1 or 0);
+                       deleted = deleted + (os_remove(getpath(username, host, store, "list")) and 1 or 0);
+                       -- We this will generate loads of "No such file or directory", but do we care?
+               end
+       end
+       return deleted > 0, deleted;
+end
+
 return _M;